แชทบ็อตที่ผู้คนนับล้านใช้ในการเขียนภาคนิพนธ์ รหัสคอมพิวเตอร์ และนิทานไม่ได้เป็นเพียงคำพูดเท่านั้น ChatGPT ซึ่งเป็นเครื่องมือที่ขับเคลื่อนด้วยปัญญาประดิษฐ์จาก OpenAI สามารถวิเคราะห์ภาพได้เช่นกัน โดยอธิบายสิ่งที่อยู่ในภาพ ตอบคำถามเกี่ยวกับภาพ และแม้แต่จดจำใบหน้าของผู้คนโดยเฉพาะ ความหวังก็คือ ในที่สุดก็มีคนสามารถอัปโหลดภาพเครื่องยนต์ของรถที่เสียหรือผื่นลึกลับ และ ChatGPT สามารถแนะนำการแก้ไขได้
สิ่งที่ OpenAI ไม่ต้องการให้ ChatGPT กลายเป็นเครื่องจดจำใบหน้า
ในช่วงไม่กี่เดือนที่ผ่านมา Jonathan Mosen เป็นหนึ่งในกลุ่มคนที่ได้รับการคัดเลือกให้เข้าถึงแชทบอทเวอร์ชันขั้นสูงที่สามารถวิเคราะห์รูปภาพได้ ในการเดินทางครั้งล่าสุด คุณ Mosen หัวหน้าผู้บริหารบริษัทจัดหางานซึ่งตาบอด ใช้การวิเคราะห์ด้วยภาพเพื่อระบุว่าเครื่องจ่ายใดในห้องน้ำในห้องพักโรงแรมที่มีแชมพู ครีมนวดผม และเจลอาบน้ำ มันไปไกลเกินกว่าประสิทธิภาพของซอฟต์แวร์วิเคราะห์ภาพที่เขาเคยใช้ในอดีต
“มันบอกความจุมิลลิลิตรของขวดแต่ละขวดให้ฉันทราบ มันบอกฉันเกี่ยวกับกระเบื้องในห้องน้ำ” คุณ Mosen กล่าว “มันอธิบายทั้งหมดนี้ในลักษณะที่คนตาบอดต้องการได้ยิน และด้วยภาพเดียว ฉันได้คำตอบที่ต้องการอย่างแน่นอน”
เป็นครั้งแรกที่นาย Mosen สามารถ “ซักถามภาพ” เขากล่าว เขายกตัวอย่าง: ข้อความประกอบรูปภาพที่เขาพบบนโซเชียลมีเดียอธิบายว่าเป็น “ผู้หญิงผมบลอนด์ที่ดูมีความสุข” เมื่อเขาขอให้ ChatGPT วิเคราะห์ภาพ แชทบอทบอกว่าเป็นผู้หญิงในเสื้อเชิ้ตสีน้ำเงินเข้มกำลังถ่ายเซลฟี่ในกระจกเต็มตัว เขาสามารถถามคำถามติดตามผลได้ เช่น รองเท้าที่เธอใส่อยู่และมีอะไรอีกบ้างที่มองเห็นได้จากกระจกเงา
“มันไม่ธรรมดา” Mr. Mosen วัย 54 ปี ผู้อาศัยอยู่ในเวลลิงตัน นิวซีแลนด์ กล่าว และได้สาธิตเทคโนโลยีบนพอดแคสต์ที่เขาเป็นเจ้าภาพเกี่ยวกับ “ใช้ชีวิตอย่างมืดบอด”
ในเดือนมีนาคม เมื่อ OpenAI ประกาศ จีพีที-4ซึ่งเป็นซอฟต์แวร์รุ่นล่าสุดที่ขับเคลื่อน AI chatbot บริษัทกล่าวว่าเป็น “หลายรูปแบบ” ซึ่งหมายความว่าสามารถตอบสนองต่อข้อความและรูปภาพได้ ในขณะที่ผู้ใช้ส่วนใหญ่สามารถสนทนากับบอทได้ด้วยคำพูดเท่านั้น แต่ Mr. Mosen ก็ได้รับสิทธิ์เข้าถึงการวิเคราะห์การมองเห็นก่อนใครจาก Be My Eyes ซึ่งเป็นสตาร์ทอัพที่โดยทั่วไปจะเชื่อมโยงผู้ใช้ที่ตาบอดกับอาสาสมัครที่มองเห็นได้ และให้บริการลูกค้าที่เข้าถึงได้สำหรับองค์กร ลูกค้า. เป็นดวงตาของฉัน ร่วมมือกับ OpenAI ในปีนี้เพื่อทดสอบ “การมองเห็น” ของแชทบอทก่อนที่จะเผยแพร่ฟีเจอร์สู่สาธารณะทั่วไป
เมื่อเร็ว ๆ นี้ แอปหยุดให้ข้อมูลเกี่ยวกับใบหน้าของผู้คนแก่คุณ Mosen โดยบอกว่าพวกเขาถูกบดบังด้วยเหตุผลด้านความเป็นส่วนตัว เขารู้สึกผิดหวัง เขารู้สึกว่าเขาควรจะเข้าถึงข้อมูลได้เช่นเดียวกับคนที่มองเห็น
การเปลี่ยนแปลงนี้สะท้อนถึงความกังวลของ OpenAI ว่ามันได้สร้างบางสิ่งที่มีพลังที่ไม่ต้องการปลดปล่อยออกมา
เทคโนโลยีของบริษัทสามารถระบุบุคคลสาธารณะเป็นหลัก เช่น บุคคลที่มีหน้า Wikipedia กล่าวโดย Sandhini Agarwal นักวิจัยนโยบาย OpenAI แต่ทำงานได้ไม่ครอบคลุมเท่าเครื่องมือที่สร้างขึ้นสำหรับการค้นหาใบหน้าบนอินเทอร์เน็ต เช่น จาก Clearview AI และ PimEyes . เครื่องมือนี้สามารถจดจำ Sam Altman ผู้บริหารระดับสูงของ OpenAI ในภาพถ่ายได้ Ms. Agarwal กล่าว แต่ไม่สามารถจดจำบุคคลอื่นที่ทำงานในบริษัทได้
การทำให้ฟีเจอร์ดังกล่าวเผยแพร่สู่สาธารณะจะเป็นการก้าวข้ามขอบเขตของสิ่งที่บริษัทเทคโนโลยีในสหรัฐฯ ยอมรับได้โดยทั่วไป นอกจากนี้ยังอาจทำให้เกิดปัญหาทางกฎหมายในเขตอำนาจศาล เช่น รัฐอิลลินอยส์และยุโรป ซึ่งกำหนดให้บริษัทต่าง ๆ ต้องได้รับความยินยอมจากพลเมืองในการใช้ข้อมูลไบโอเมตริกซ์ รวมถึงการพิมพ์ใบหน้า
นอกจากนี้ OpenAI กังวลว่าเครื่องมือจะพูดในสิ่งที่ไม่ควรเกี่ยวกับใบหน้าของผู้คน เช่น การประเมินเพศหรือสภาวะทางอารมณ์ของพวกเขา OpenAI กำลังค้นหาวิธีจัดการกับข้อกังวลด้านความปลอดภัยเหล่านี้และข้อกังวลอื่นๆ ก่อนที่จะเผยแพร่คุณลักษณะการวิเคราะห์รูปภาพอย่างกว้างขวาง นาง Agarwal กล่าว
“เราต้องการให้เรื่องนี้เป็นการสนทนาแบบสองทางกับสาธารณะ” เธอกล่าว “หากสิ่งที่เราได้ยินคือ ‘เราไม่ต้องการสิ่งใดเลยจริง ๆ’ นั่นคือสิ่งที่เราเห็นด้วยอย่างยิ่ง”
นอกเหนือจากคำติชมจากผู้ใช้ Be My Eyes แล้ว องค์กรไม่แสวงหากำไรของบริษัทยังพยายามหาวิธีที่จะได้ “การป้อนข้อมูลที่เป็นประชาธิปไตย” เพื่อช่วยกำหนดกฎเกณฑ์สำหรับระบบ AI
Ms. Agarwal กล่าวว่าการพัฒนาการวิเคราะห์ด้วยภาพไม่ใช่เรื่องที่ “คาดไม่ถึง” เนื่องจากแบบจำลองได้รับการฝึกฝนโดยการดูภาพและข้อความที่รวบรวมจากอินเทอร์เน็ต เธอชี้ให้เห็นว่าซอฟต์แวร์จดจำใบหน้าคนดังมีอยู่แล้ว เช่น เครื่องมือจาก Google. Google ขอนำเสนอ เลือกออก สำหรับคนที่มีชื่อเสียงซึ่งไม่ต้องการให้เป็นที่รู้จัก และ OpenAI กำลังพิจารณาแนวทางดังกล่าว
Ms. Agarwal กล่าวว่าการวิเคราะห์ด้วยภาพของ OpenAI สามารถสร้าง “ภาพหลอน” คล้ายกับที่เห็นได้จากข้อความแจ้ง “ถ้าคุณให้รูปคนที่กำลังจะมีชื่อเสียง มันอาจทำให้ชื่อหลอนได้” เธอกล่าว “เช่น ถ้าฉันให้ภาพ CEO เทคโนโลยีที่มีชื่อเสียง มันอาจจะให้ชื่อ CEO เทคโนโลยีที่แตกต่างออกไป”
เครื่องมือนี้เคยอธิบายรีโมตคอนโทรลให้นาย Mosen ฟังอย่างไม่ถูกต้อง โดยบอกเขาอย่างมั่นใจว่ามีปุ่มต่างๆ ที่ไม่ได้อยู่บนนั้น เขากล่าว
Microsoft ซึ่งลงทุน 10,000 ล้านดอลลาร์ใน OpenAI ก็สามารถเข้าถึงเครื่องมือวิเคราะห์ภาพได้เช่นกัน ผู้ใช้ Bing chatbot ที่ขับเคลื่อนด้วย AI ของ Microsoft บางรายได้เห็นคุณลักษณะนี้ปรากฏในการเปิดตัวอย่างจำกัด หลังจากอัปโหลดรูปภาพ พวกเขาได้รับข้อความแจ้งว่า “การเบลอความเป็นส่วนตัวจะซ่อนใบหน้าจากการแชทของ Bing”
Sayash Kapoor นักวิทยาศาสตร์คอมพิวเตอร์และผู้สมัครระดับปริญญาเอกที่มหาวิทยาลัย Princeton ใช้เครื่องมือนี้เพื่อถอดรหัสแคปต์ชา ซึ่งเป็นการตรวจสอบความปลอดภัยด้วยภาพซึ่งหมายถึงการมองเห็นได้ด้วยตาของมนุษย์เท่านั้น แม้ในขณะที่ทำลายรหัสและจดจำคำที่คลุมเครือสองคำที่ให้มา แชทบอทยังตั้งข้อสังเกตว่า “แคปต์ชาได้รับการออกแบบมาเพื่อป้องกันบอทอัตโนมัติอย่างฉันไม่สามารถเข้าถึงเว็บไซต์หรือบริการบางอย่างได้”
Ethan Mollick รองศาสตราจารย์ที่ศึกษานวัตกรรมและการเป็นผู้ประกอบการที่ Wharton School ของมหาวิทยาลัยเพนซิลเวเนียกล่าวว่า “AI กำลังพัดผ่านทุกสิ่งที่ควรแยกมนุษย์ออกจากเครื่องจักร”
เนื่องจากเครื่องมือวิเคราะห์ภาพปรากฏขึ้นในแชทบ็อตของ Bing เวอร์ชันของ Mr. Mollick เมื่อเดือนที่แล้ว ทำให้เขาเป็นหนึ่งในไม่กี่คนที่เข้าถึงได้ก่อนใครโดยไม่ต้องแจ้งให้ทราบล่วงหน้า เขาจึงไม่ได้ปิดคอมพิวเตอร์เพราะกลัวว่าจะสูญเสีย เขาให้ภาพเครื่องปรุงในตู้เย็นและขอให้ Bing แนะนำสูตรอาหารสำหรับส่วนผสมเหล่านั้น มาพร้อมกับ “วิปครีมโซดา” และ “ครีมซอสฮาลาเปญโญ่”
ดูเหมือนว่าทั้ง OpenAI และ Microsoft จะตระหนักถึงพลัง — และผลกระทบด้านความเป็นส่วนตัวที่อาจเกิดขึ้น — ของเทคโนโลยีนี้ โฆษกของ Microsoft กล่าวว่า บริษัทไม่ได้ “แบ่งปันรายละเอียดทางเทคนิค” เกี่ยวกับการเบลอใบหน้า แต่กำลังทำงาน “อย่างใกล้ชิดกับพันธมิตรของเราที่ OpenAI เพื่อรักษาความมุ่งมั่นร่วมกันของเราในการปรับใช้เทคโนโลยี AI อย่างปลอดภัยและมีความรับผิดชอบ”
