โครงข่ายฮอปฟีลด์

โครงข่ายฮอปฟีลด์ (Hopfield network) เป็นรูปแบบหนึ่งของโครงข่ายประสาทเทียม เสนอโดยจอห์น ฮอปฟีลด์ นักฟิสิกส์ชาวอเมริกัน

โครงข่ายฮอปฟีลด์เป็นโครงข่ายแบบไม่ประสานเวลาที่มีการโต้ตอบแบบสมมาตรระหว่างหน่วย (เซลล์ประสาท) และทำให้พลังงานของโครงข่ายเป็นค่าต่ำสุดโดยผ่านการดำเนินการตามธรรมชาติ เดิมทีโครงข่ายนี้ถูกคิดขึ้นมาเพื่อเป็นแบบจำลองในการกำหนดเงื่อนไขความเสถียรของ แต่ต่อมาได้รับการยอมรับในวงกว้างในฐานะแบบจำลองสำหรับโดยผ่านโครงข่าย กลายเป็นหนึ่งในแรงบันดาลใจที่นำไปสู่งานวิจัยด้านโครงข่ายประสาทเทียม และยังกลายเป็นพื้นฐานสำหรับในเวลาต่อมาด้วย

โครงข่ายนี้เป็นแบบจำลองที่ใช้ความผันแปรทางสถิติเพื่อมุ่งเป้าไปที่การทำให้ได้ค่าพลังงานต่ำสุดวงกว้างไม่ใช่แค่ค่าต่ำสุดแบบเฉพาะที่

ในปี 2024 จอห์น ฮอปฟีลด์ได้รับรางวัลโนเบลสาขาฟิสิกส์ร่วมกันกับเจฟฟรีย์ ฮินตันจากการมีส่วนร่วมในการพัฒนาด้านการเรียนรู้ของเครื่อง รวมถึงการคิดค้นโครงข่ายฮอปฟีลด์

โครงสร้างและการทำงาน

แต่ละหน่วยภายในโครงข่ายฮอปฟีลด์มีสมบัติค่าป้อนเข้าและค่าขาออกแบบแมคคัลลอค–พิตส์ (McCulloch–Pitts)

ในแต่ละช่วงของเวลา ${\displaystyle t}$ ให้ ${\displaystyle w_{ij}(t)}$ เป็นค่าสัมประสิทธิ์คู่ควบจากหน่วย ${\displaystyle j}$ ถึง ${\displaystyle i}$ ส่วน ${\displaystyle -\theta _{i}(t)}$ คือค่าขีดแบ่งของหน่วย ${\displaystyle i}$ ในขณะที่ ${\displaystyle x_{i}(t)}$ เป็นค่าขาออกของหน่วย ${\displaystyle i}$ ในที่นี้ สำหรับคู่ ${\displaystyle i}$, ${\displaystyle j}$ ทั้งหมด ถ้า ${\displaystyle i\neq j}$ แล้ว ${\displaystyle w_{ij}(t)=w_{ji}(t)}$ ในขณะที่ถ้า ${\displaystyle i=j}$ แล้ว ${\displaystyle w_{ij}(t)=0}$

พลังงานของโครงข่ายทั้งหมด ${\displaystyle E(t)}$ นิยามได้เป็น

${\displaystyle E(t)=-{1 \over 2}{\sum _{i\neq j}{w_{ij}{x_{i}(t)}{x_{j}(t)}}}-\sum _{i}{\theta _{i}(t)}{x_{i}(t)}}$

แบบจำลองที่มีโครงสร้างดังกล่าวทำงานสำหรับแต่ละส่วนของเวลาดังต่อไปนี้

1. เลือกหนึ่งหน่วยโดยการสุ่ม
2. คำนวณผลรวมถ่วงน้ำหนักของค่าป้อนเข้าของหน่วยนั้น
3. ปรับค่าขาออกของหน่วยนั้นโดยขึ้นกับผลลัพธ์
   • ถ้ามากกว่าค่าขีดแบ่ง ให้เป็น 1
   • หากเท่ากับค่าขีดแบ่ง ให้เป็นค่าเดียวกับค่าปัจจุบัน
   • ถ้าน้อยกว่าค่าขีดแบ่ง ให้เป็น 0
4. เพิ่มค่า ${\displaystyle t}$ และทำซ้ำตั้งแต่เริ่มต้น

พอทำเช่นนั้นแล้วก็จะเห็นได้ว่าโดยง่ายว่า ${\displaystyle E(t)}$ จะมีแต่ลดลงไปเรื่อย ๆ เมื่อ ${\displaystyle t}$ เพิ่มขึ้น

อ้างอิง

1. Hopfield, J.J. (1982). "Neural network and physical systems with emergent collective computational abilities". Proceedings of the National Academy of Sciences of the United States of America. 79 (8): 2554–8. PMID 6953413.