แชตบอตยอดฮิตอย่างแชตจีพีที (ChatGPT) รวมถึงแบบจำลองภาษาอื่น ๆ ไม่ได้มีความเป็นกลางอย่างที่หลายคนเข้าใจ ออสการ์ ฟาน เดอร์ วาล นักวิจัยด้านปัญญาประดิษฐ์จากมหาวิทยาลัยอัมสเตอร์ดัม (UvA) ประเทศเนเธอร์แลนด์ ได้เปิดเผยงานวิจัยล่าสุดเมื่อเดือนเมษายน พ.ศ. 2569 ชี้ให้เห็นว่าระบบเหล่านี้ซึมซับและฝังรากอคติทางเพศและเชื้อชาติไว้ภายในโดยที่เราไม่ทันรู้ตัว พร้อมเสนอแนวทางการวัดผลและปรับแก้ที่ต้นตอ เพื่อหยุดยั้งการกระจายอคติที่อาจส่งผลกระทบต่อการตัดสินใจในโลกจริง โดยเฉพาะความเสี่ยงในวงการสาธารณสุขและการแพทย์
ปัญหาสำคัญประการแรกคือ อคติในปัญญาประดิษฐ์เป็นสิ่งที่วัดผลได้ยาก วิธีการวัดผลที่มีอยู่ในปัจจุบันมักเป็นนามธรรมและไม่สอดคล้องกับการใช้งานจริง เช่น การตรวจสอบหาอคติการเหมารวมผ่านข้อความที่ชัดเจนเกินไป ทว่าในโลกความเป็นจริง อคติมักซ่อนตัวอยู่ตามบริบทของการใช้งาน ฟาน เดอร์ วาล ยกตัวอย่างการใช้ปัญญาประดิษฐ์ในแวดวงการแพทย์ว่า หากระบบเรียนรู้จากข้อมูลเก่าที่มีสมมติฐานผิดพลาด เช่น การเชื่อมโยงโรคบางชนิดกับเชื้อชาติ โมเดลก็อาจผลิตซ้ำความเชื่อเหล่านั้นและนำไปสู่การวินิจฉัยโรคที่คลาดเคลื่อนได้ นอกจากนี้ ข้อมูลทางการแพทย์ในอดีตส่วนใหญ่มักมาจากการวิจัยที่ใช้ผู้ชายเป็นหลัก ซึ่งอาจส่งผลให้ปัญญาประดิษฐ์ตีความอาการป่วยของผู้หญิงผิดเพี้ยนไปหรือประเมินความเสี่ยงต่ำกว่าความเป็นจริง
เพื่อพิสูจน์และค้นหาข้อบกพร่องนี้ ทีมวิจัยได้สร้างสถานการณ์จำลองทางการแพทย์ที่สมจริงขึ้นมา โดยป้อนข้อมูลให้แบบจำลองภาษาทำการวินิจฉัยโรคและประเมินความเสี่ยงของผู้ป่วย จากนั้นจึงสลับเปลี่ยนข้อมูลเชื้อชาติของผู้ป่วยซ้ำไปซ้ำมา ผลลัพธ์ที่ได้แสดงให้เห็นถึงความแตกต่างของการประเมินและการให้คำแนะนำอย่างสม่ำเสมอ แม้ความคลาดเคลื่อนนี้จะเป็นเพียงจุดเล็กน้อยที่มองไม่เห็นในการทดสอบมาตรฐานทั่วไป แต่ก็ตอกย้ำให้เห็นอย่างชัดเจนว่าอคติสามารถแทรกแซงและส่งผลต่อการตัดสินใจทางการแพทย์ในทางปฏิบัติได้อย่างไร
นอกจากปัญหาส่วนของข้อมูลแล้ว กระบวนการเรียนรู้ของระบบก็เป็นอีกปัจจัยที่ช่วยตอกย้ำอคติ นักวิจัยได้ติดตามการทำงานภายในของโมเดลแบบจำลองภาษาอย่างใกล้ชิดระหว่างการฝึกฝนและพบว่า หากในคลังข้อมูลมีคำว่าแพทย์ปรากฏคู่กับสรรพนามเพศชาย และคำว่าพยาบาลปรากฏคู่กับสรรพนามเพศหญิงบ่อยครั้ง ระบบก็จะจดจำและยึดโยงความสัมพันธ์เหล่านี้ไว้ เมื่อเวลาผ่านไปแบบจำลองจะนำข้อมูลเหล่านี้ไปเก็บไว้ในส่วนที่เฉพาะเจาะจงมากขึ้น ทำให้เกิดการตอกย้ำอคติทางเพศให้ฝังรากลึก ดังนั้นอคติจึงไม่ได้มาจากข้อมูลต้นทางที่ปัญญาประดิษฐ์ใช้ฝึกฝนเพียงอย่างเดียว แต่ยังเกิดจากโครงสร้างการจัดเก็บและการประมวลผลข้อมูลของตัวโมเดลเองด้วย
แม้ปัญหานี้จะซับซ้อน แต่ทางออกและวิธีแก้ไขยังคงเป็นไปได้ เราไม่สามารถลบอคติออกจากแบบจำลองภาษาได้ด้วยวิธีการง่าย ๆ เพียงขั้นตอนเดียว แต่นักวิจัยพบว่าการปรับแก้แบบเฉพาะจุดสามารถช่วยลดปัญหาลงได้ หากเราทราบแน่ชัดว่าอคตินั้นฝังอยู่ในส่วนใดของโมเดล ผู้พัฒนาจะสามารถเข้าไปจัดการพื้นที่นั้นได้โดยตรง จากการทดลองปรับแต่งโครงสร้างเพื่อไม่ให้โมเดลรับเอาอคติทางเพศบางประการเข้าไป ผลปรากฏว่าระดับของอคติลดลงอย่างเห็นได้ชัด ในขณะที่ประสิทธิภาพการทำงานทั่วไปของระบบ เช่น การประมวลผลและสร้างข้อความ ยังคงคุณภาพดีเยี่ยมเหมือนเดิม
ปัจจุบันเทคโนโลยีปัญญาประดิษฐ์ไม่ได้จำกัดขอบเขตอยู่แค่ในโลกทางเทคนิคอีกต่อไป แต่ได้ขยายอิทธิพลและส่งผลกระทบต่อสังคมมนุษย์ในวงกว้าง มนุษย์เรากำลังพึ่งพาระบบเหล่านี้และปล่อยให้ปัญญาประดิษฐ์เข้ามามีบทบาทต่อวิธีคิดของเรามากขึ้นเรื่อย ๆ การสร้างเทคโนโลยีอย่างมีความรับผิดชอบจึงเป็นสิ่งจำเป็นอย่างยิ่ง โดยต้องอาศัยการปรับปรุงในหลายระดับไปพร้อมกัน ทั้งในระดับการคัดกรองข้อมูลต้นทาง การควบคุมระหว่างกระบวนการฝึกฝนระบบ การปรับแก้แบบเจาะจงภายในตัวโมเดล ไปจนถึงความระมัดระวังในขั้นตอนการนำไปใช้งานจริง เพื่อให้เทคโนโลยีเหล่านี้เป็นเครื่องมือที่มีประสิทธิภาพและปราศจากอคติอย่างแท้จริง
- ข้อมูลอ้างอิง: University of Amsterdam (UvA)
Can we stop ChatGPT from spreading bias?
About Author
