ซีอีโอ Anthropic เรียกร้องชะลอพัฒนา AI ทั่วโลกหวั่นไร้คุม

ดาริโอ อโมเดอี (Dario Amodei) ประธานเจ้าหน้าที่บริหารของ Anthropic บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำ ออกบทความเรียงความความยาวกว่า 3,800 คำ เรียกร้องให้ทั่วโลกร่วมมือกันชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ (AI) ลง หลังจากนักวิจัยในบริษัทของเขาเพิ่งยื่นใบลาออกเนื่องจากความกังวลด้านความปลอดภัยของเทคโนโลยีดังกล่าว

 

อโมเดอี ซึ่งเป็นผู้ร่วมก่อตั้ง Anthropic ระบุว่า แม้เขาจะเชื่อมั่นว่า AI จะนำประโยชน์มหาศาลมาสู่มนุษยชาติ ทั้งการรักษาโรคและการก้าวหน้าทางเศรษฐกิจ แต่ปัจจุบันก้าวความก้าวหน้ากลับรวดเร็วเกินกว่าที่นักวิจัยจะสามารถควบคุมความปลอดภัยได้ทัน พร้อมเน้นย้ำว่า ในช่วงไม่กี่เดือนที่ผ่านมา เขาปักใจเชื่ออย่างยิ่งว่าการแก้ไขความเสี่ยงต้องอาศัยความระมัดระวังที่มากขึ้น ไม่ใช่แค่การลงทุนในระบบป้องกันความเสี่ยง แต่ต้องเป็นการชะลออัตราการพัฒนาความสามารถของโมเดล เพื่อให้มาตรการป้องกันความเสี่ยงพัฒนาได้ทันท่วงที

 

ผวาปรากฏการณ์พัฒนาตัวเองไร้ขีดจำกัด บิ๊กเทคพาเหรดเห็นพ้อง

 

ความกังวลสำคัญของผู้นำในวงการ AI คือประเด็นการปรับปรุงและพัฒนาตัวเองอย่างต่อเนื่องโดยไม่ต้องพึ่งพามนุษย์ หรือที่นักวิทยาศาสตร์คอมพิวเตอร์เรียกว่า "Recursive self improvement" ซึ่งอาจส่งผลให้ระบบซอฟต์แวร์เติบโตจนหลุดรอดจากการควบคุมของมนุษย์ นอกจากนี้ ยังมีรายงานประเด็นความปลอดภัยที่น่ากังวล อาทิ ระบบของ OpenAI เคยเจาะเข้าสู่ระบบของสตาร์ทอัป HuggingFace โดยที่ OpenAI ไม่ทราบเรื่องจนกระทั่งได้รับการแจ้งเตือนในภายหลัง

ภายหลังการเผยแพร่บทความ บรรดาผู้นำระดับสูงของบริษัทเทคโนโลยีชั้นนำต่างออกมาแสดงความเห็นพ้องอย่างรวดเร็ว โดย แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI โพสต์ข้อความเห็นด้วยว่า การชะลอความเร็วเป็นสิ่งจำเป็นและเป็นหัวข้อหลักที่เปิดหารือในบริษัทในช่วงหลายสัปดาห์ที่ผ่านมา พร้อมขานรับแนวคิดการดึงผู้ประเมินอิสระภายนอกเข้ามาตรวจสอบ เช่นเดียวกับ อีลอน มัสก์ (Elon Musk) ที่โพสต์สั้นๆ ว่า "ดาริโอพูดถูกต้อง" ขณะที่ เดมิส ฮัสซาบิส (Demis Hassabis) ประธาน Google DeepMind ระบุว่า ข้อเสนอของอโมเดอีเป็นทิศทางที่ถูกต้องในการรับมือกับช่วงเวลาสำคัญนี้

 

เปิดข้อเสนอคุมเข้ม 3 ระดับ พร้อมเสียงวิจารณ์สัดส่วนผลประโยชน์

 

อโมเดอีได้เสนอมาตรการสำคัญเพื่อควบคุมความปลอดภัยของอุตสาหกรรม AI ไว้หลายประการ ได้แก่

1. การแต่งตั้งผู้เชี่ยวชาญอิสระจากภายนอก (Embedded evaluators) เข้าไปฝังตัวประเมินและตรวจสอบมาตรฐานความปลอดภัยในห้องปฏิบัติการ AI ทุกแห่ง

2. การประสานความร่วมมือระหว่างกลุ่มประเทศประชาธิปไตย เพื่อออกกฎระเบียบและมาตรฐานความปลอดภัยทางกฎหมายร่วมกัน

3. การขยายความร่วมมือระดับโลกไปยังประเทศอื่นๆ รวมถึงประเทศที่มีระเบียบการปกครองแบบเบ็ดเสร็จ เพื่อตกลงร่วมกันในการชะลอการพัฒนาอย่างเป็นรูปธรรม

 

อย่างไรก็ตาม ข้อเสนอดังกล่าวกลับเผชิญกระแสวิพากษ์วิจารณ์จากบางฝ่ายในซิลิคอนวัลเลย์ โดยนักวิจารณ์บางรายมองว่า Anthropic และ OpenAI อาจกำลังใช้ความกลัวเป็นเครื่องมือในการผลักดันให้รัฐบาลออกกฎหมายควบคุม เพื่อสร้างอุปสรรคขัดขวางไม่ให้บริษัทขนาดเล็กหรือคู่แข่งหน้าใหม่ขึ้นมาท้าทายอำนาจในตลาดได้

ขณะที่ เจนเซน หว่าง (Jensen Huang) ซีอีโอของ Nvidia ผู้ผลิตชิป AI รายใหญ่ กล่าวในงานประชุมเทคโนโลยีว่า บริษัทผู้พัฒนา AI อาจกำลังปั่นความกังวลด้านความปลอดภัยเพื่อเตรียมเปิดตัวสินค้าและบริการด้านไซเบอร์ซีเคียวริตีใหม่ๆ โดยระบุว่าไม่มีวิธีสร้างอุปสงค์ใดจะดีไปกว่าการสร้างปัญหาขึ้นมาเอง

 

ด้าน เคลมองต์ เดอลังก์ (Clément DeLangue) ซีอีโอของ HuggingFace โพสต์เตือนว่า ประเด็นความปลอดภัยของ AI ไม่ควรถูกแก้ไขอยู่หลังประตูที่ปิดตายของห้องปฏิบัติการระดับแนวหน้าเพียงไม่กี่แห่งเท่านั้น ท่ามกลางสถานการณ์ที่รัฐบาลสหรัฐฯ ภายใต้ประธานาธิบดีโดนัลด์ ทรัมป์ ได้ลงนามในคำสั่งบริหารเมื่อเดือนมิถุนายน เพื่อขอความร่วมมือให้ห้องปฏิบัติการ AI ส่งมอบโมเดลให้ตรวจสอบก่อนเปิดตัวสู่สาธารณะ