ฟังก์ชันซิกมอยด์

ฟังก์ชันซิกมอยด์ (sigmoid function) เป็นฟังก์ชันจำนวนจริงที่แสดงโดยสูตรดังต่อไปนี้

ฟังก์ชันซิกมอยด์ (เกน 5)

${\displaystyle \varsigma _{a}(x)={\frac {1}{1+e^{-ax}}}={\frac {\tanh(ax/2)+1}{2}}}$

โดยในที่นี้ ${\displaystyle a}$ เรียกว่าเกน (gain) ฟังก์ชันซิกมอยด์ใช้ในการจำลองคุณสมบัติของเซลล์ประสาททางชีวภาพ

ฟังก์ชันซิกมอยด์ในความหมายเชิงแคบหมายถึง ฟังก์ชันซิกมอยด์มาตรฐาน (standard sigmoid function) นั่นคือ

${\displaystyle \varsigma _{1}(x)={\frac {1}{1+e^{-x}}}={\frac {\tanh(x/2)+1}{2}}}$

ปัจจุบันนิยมใช้เป็นฟังก์ชันกระตุ้นภายในโครงข่ายประสาทเทียมสำหรับการเรียนรู้เชิงลึก

ชื่อเรียก

ฟังก์ชันซิกมอยด์มาตรฐาน

(sigmoid) หรือเรียกว่าเส้นโค้งซิกมอยด์ (sigmoid curve) หมายถึงรูปร่างที่คล้ายกับตัวอักษรกรีก ซิกมา อย่างไรก็ตาม อักษรซิกมานั้นเมื่ออยู่ในกลางคำจะเขียนเป็น σ แต่ในที่นี้หมายถึงรูป ς ซึ่งปรากฏเมื่ออยู่ท้ายคำ

ฟังก์ชันซิกมอยด์มาตรฐานเป็นฟังก์ชันผกผันของฟังก์ชัน และในไลบรารีการคำนวณเชิงตัวเลขบางไลบรารีสำหรับการประมวลผลทางสถิติยังมีการเรียกชื่อฟังก์ชันซิกมอยด์มาตรฐานว่าเป็นฟังก์ชัน เอกซ์พิต (expit)

สมบัติ

ฟังก์ชันซิกมอยด์เป็นแบบต่อเนื่องในช่วง ${\displaystyle (-\infty ,\infty )\rightarrow (0,1)}$ โดยมี เพียงจุดเดียว

มีเส้นตรง ${\displaystyle y=0}$ และ ${\displaystyle y=1}$ เป็น

${\displaystyle {\begin{aligned}\lim _{x\rightarrow \infty }\varsigma _{a}(x)&=1\\\lim _{x\rightarrow -\infty }\varsigma _{a}(x)&=0\\\lim _{x\rightarrow \pm \infty }\varsigma _{a}'(x)&=0\end{aligned}}}$

และเมื่อ ${\displaystyle x=0}$ จะได้ว่า

${\displaystyle {\begin{aligned}\varsigma _{a}(0)&={\frac {1}{2}}\\\varsigma _{a}'(0)&={\frac {a}{4}}\\\varsigma _{a}''(0)&=0\end{aligned}}}$

นั่นคือมีจุดเปลี่ยนเว้าเป็น ${\displaystyle (0,{\frac {1}{2}})}$ กราฟของฟังก์ชันซิกมอยด์มีอยู่ที่ ${\displaystyle (0,{\frac {1}{2}})}$ นั่นคือ ${\displaystyle \varsigma _{a}(x)-{\frac {1}{2}}}$ เป็นฟังก์ชันคี่ซึ่งเป็นไปตาม ${\displaystyle \varsigma _{a}(-x)=1-\varsigma _{a}(x)}$

ฟังก์ชันผกผันของฟังก์ชันซิกมอยด์สามารถแสดงเป็นฟังก์ชันดังนี้

${\displaystyle \varsigma _{a}^{-1}(y)={\frac {1}{a}}\ln \left({\frac {y}{1-y}}\right)={\frac {1}{a}}\operatorname {logit} y}$

อนุพันธ์อันดับ 1 และ 2 คือ

${\displaystyle {\begin{aligned}\varsigma _{a}'(x)&={\frac {ae^{-ax}}{(1+e^{-ax})^{2}}}=a\varsigma _{a}(x)\{1-\varsigma _{a}(x)\}\\\varsigma _{a}''(x)&=a^{2}\varsigma _{a}(x)\{1-\varsigma _{a}(x)\}\{1-2\varsigma _{a}(x)\}\end{aligned}}}$

ซึ่งสามารถแสดงได้ในรูปอย่างง่ายโดยใช้ฟังก์ชันซิกมอยด์เอง

เมื่อเข้าฟังก์ชันลอการิทึมธรรมชาติแล้วหาอนุพันธ์จะได้เป็นดังนี้

${\displaystyle {\begin{aligned}{\frac {d}{dx}}\ln(\varsigma _{a}(x))&=a\varsigma _{a}(-x)=a(1-\varsigma _{a}(x))\\{\frac {d}{dx}}\ln(1-\varsigma _{a}(x))&=-a\varsigma _{a}(x)\end{aligned}}}$

อ้างอิง

1. Han, Jun; Morag, Claudio (1995). "The influence of the sigmoid function parameters on the speed of backpropagation learning". ใน Mira, José; Sandoval, Francisco (บ.ก.). From Natural to Artificial Neural Computation. Lecture Notes in Computer Science. Vol. 930. pp. 195–201. doi:10.1007/3-540-59497-3_175. ISBN .
2. Ling, Yibei; He, Bin (December 1993). "Entropic analysis of biological growth models". . 40 (12): 1193–2000. doi:10.1109/10.250574. PMID 8125495.