Home » ทำให้ Deepfakes ถูกลงและง่ายขึ้นด้วย AI

ทำให้ Deepfakes ถูกลงและง่ายขึ้นด้วย AI

โดย admin
0 ความคิดเห็น

โจ โรแกน นักแสดงตลกที่ผันตัวมาเป็นนักแสดงพอดคาสต์ คงไม่เสียบุคลิกไปเสียหมด เพื่อรับรองแบรนด์กาแฟที่ “กระตุ้นความใคร่” สำหรับผู้ชาย

แต่เมื่อวิดีโอที่เผยแพร่บน TikTok เมื่อเร็ว ๆ นี้แสดงให้เห็นว่าคุณโรแกนและแขกรับเชิญของเขา แอนดรูว์ ฮูเบอร์แมนกำลังดื่มกาแฟ ผู้ชมที่มีตาเหยี่ยวบางคนตกใจ รวมถึงดร. ฮูเบอร์แมนด้วย

“ใช่ นั่นเป็นของปลอม” ดร. ฮูเบอร์แมน เขียนบน Twitter หลังจากเห็นโฆษณา ซึ่งดูเหมือนว่าเขาจะชมเชยศักยภาพในการเพิ่มฮอร์โมนเทสโทสเตอโรนของกาแฟ แม้ว่าเขาจะไม่เคยทำก็ตาม

โฆษณาดังกล่าวเป็นหนึ่งในวิดีโอปลอมจำนวนมากขึ้นบนโซเชียลมีเดียที่สร้างด้วยเทคโนโลยีที่ขับเคลื่อนโดยปัญญาประดิษฐ์ ผู้เชี่ยวชาญกล่าวว่า เสียงของ Mr. Rogan ได้รับการสังเคราะห์ขึ้นโดยใช้เครื่องมือ AI ที่เลียนแบบเสียงของคนดัง ความคิดเห็นของ Dr. Huberman ถูกคัดลอกมาจากการสัมภาษณ์ที่ไม่เกี่ยวข้อง

การสร้างวิดีโอปลอมที่เหมือนจริง ซึ่งมักเรียกกันว่า Deepfake ครั้งหนึ่งต้องใช้ซอฟต์แวร์ที่ซับซ้อนในการใส่ ใบหน้าของบุคคลหนึ่งไปยังอีกคนหนึ่ง. แต่ตอนนี้ เครื่องมือจำนวนมากในการสร้างเครื่องมือเหล่านั้นมีให้สำหรับผู้บริโภคทั่วไป แม้กระทั่งในแอปบนสมาร์ทโฟน และมักจะใช้เงินเพียงเล็กน้อยหรือไม่มีเลย

วิดีโอที่ดัดแปลงใหม่ซึ่งส่วนใหญ่เป็นผลงานของผู้สร้างมีมและนักการตลาดได้แพร่ระบาดในเว็บไซต์โซเชียลมีเดียเช่น TikTok และ Twitter เนื้อหาที่พวกเขาผลิตบางครั้ง นักวิจัยเรียกว่าของปลอมราคาถูกทำงานโดยการโคลนเสียงคนดัง ปรับเปลี่ยนการเคลื่อนไหวของปากให้เข้ากับเสียงทางเลือก และเขียนบทสนทนาที่โน้มน้าวใจ

วิดีโอและเทคโนโลยีที่เข้าถึงได้เบื้องหลังมีนักวิจัย AI บางคน กังวลถึงอันตรายของตนและได้หยิบยกข้อกังวลใหม่ๆ เกี่ยวกับว่าบริษัทสื่อสังคมออนไลน์เตรียมพร้อมรับมือกับการปลอมแปลงทางดิจิทัลที่กำลังเติบโตหรือไม่

หน่วยงานเฝ้าระวังข้อมูลบิดเบือนยังพยายามควบคุมคลื่นดิจิทัลปลอมที่อาจหลอกลวงผู้ชมหรือทำให้ยากต่อการรู้ว่าสิ่งใดจริงหรือเท็จทางออนไลน์

“สิ่งที่แตกต่างคือตอนนี้ทุกคนสามารถทำได้” Britt Paris ผู้ช่วยศาสตราจารย์ด้านบรรณารักษศาสตร์และสารสนเทศศาสตร์แห่งมหาวิทยาลัย Rutgers ผู้คิดค้นคำว่า “cheapfakes” กล่าว “ไม่ใช่แค่คนที่มีเทคโนโลยีการคำนวณที่ซับซ้อนและมีความรู้ในการคำนวณที่ค่อนข้างซับซ้อนเท่านั้น แต่เป็นแอปฟรี”

รีลของเนื้อหาที่ถูกดัดแปลงได้แพร่กระจายบน TikTok และที่อื่น ๆ เป็นเวลาหลายปี โดยทั่วไปแล้วจะใช้กลอุบายแบบสามัญประจำบ้านมากกว่า เช่น การตัดต่ออย่างระมัดระวังหรือการสลับคลิปเสียงหนึ่งไปยังอีกคลิปหนึ่ง ในวิดีโอหนึ่งบน TikTok รองประธานาธิบดีกมลา แฮร์ริสดูเหมือนจะกล่าวว่าทุกคนที่เข้ารับการรักษาในโรงพยาบาลเนื่องจากโควิด-19 ได้รับการฉีดวัคซีน ในความเป็นจริงเธอกล่าวว่า ผู้ป่วยไม่ได้รับการฉีดวัคซีน.

Graphika บริษัทวิจัยที่ศึกษาข้อมูลที่บิดเบือน ตรวจพบการปลอมแปลงของผู้ประกาศข่าวสมมติที่บัญชีบอทสนับสนุนจีนเผยแพร่เมื่อปลายปีที่แล้ว ในตัวอย่างแรกที่รู้จักของเทคโนโลยีที่ใช้สำหรับแคมเปญที่มีอิทธิพลต่อรัฐ

แต่เครื่องมือใหม่หลายอย่างนำเสนอเทคโนโลยีที่คล้ายคลึงกันกับผู้ใช้อินเทอร์เน็ตทั่วไป เปิดโอกาสให้นักแสดงตลกและพรรคพวกสร้างการปลอมแปลงที่น่าเชื่อถือ

เมื่อเดือนที่แล้ว วิดีโอปลอมแพร่ภาพประธานาธิบดีไบเดนประกาศร่างกฎหมายระดับชาติสำหรับสงครามระหว่างรัสเซียและยูเครน วิดีโอนี้ผลิตโดยทีมงานที่อยู่เบื้องหลัง “Human Events Daily” ซึ่งเป็นพอดคาสต์และสตรีมสดที่ดำเนินการโดย Jack Posobiec ผู้มีอิทธิพลฝ่ายขวาซึ่งเป็นที่รู้จักจากการเผยแพร่ทฤษฎีสมคบคิด

ในส่วนที่อธิบายวิดีโอ นาย Posobiec กล่าวว่าทีมของเขาสร้างวิดีโอโดยใช้เทคโนโลยี AI ทวีตเกี่ยวกับวิดีโอจาก The Patriot Oasis ซึ่งเป็นบัญชีอนุรักษ์นิยม ใช้ป้ายกำกับข่าวด่วนโดยไม่ระบุว่าวิดีโอเป็นของปลอม ทวีตถูกดูมากกว่าแปดล้านครั้ง

คลิปวิดีโอจำนวนมากที่มีเสียงสังเคราะห์ดูเหมือนจะใช้เทคโนโลยีจาก ElevenLabs บริษัทสตาร์ทอัพสัญชาติอเมริกันที่ร่วมก่อตั้งโดยอดีตวิศวกรของ Google ในเดือนพฤศจิกายน บริษัทได้เปิดตัวเครื่องมือการโคลนเสียงที่สามารถฝึกให้ทำซ้ำเสียงได้ภายในไม่กี่วินาที

ElevenLabs ดึงดูดความสนใจเมื่อเดือนที่แล้ว หลังจาก 4chan กระดานข้อความที่ขึ้นชื่อเรื่องเนื้อหาเหยียดผิวและสมรู้ร่วมคิด ใช้เครื่องมือนี้เพื่อแชร์ข้อความแสดงความเกลียดชัง ในตัวอย่างหนึ่ง ผู้ใช้ 4chan สร้างการบันทึกเสียงข้อความต่อต้านกลุ่มเซมิติกโดยใช้เสียงที่สร้างจากคอมพิวเตอร์โดยเลียนแบบนักแสดงเอ็มม่า วัตสัน เมนบอร์ด รายงานก่อนหน้านี้เกี่ยวกับการใช้เทคโนโลยีเสียงของ 4chan

ElevenLabs กล่าวบน Twitter ว่าจะทำ แนะนำการป้องกันใหม่เช่น การจำกัดการโคลนเสียงเฉพาะบัญชีแบบชำระเงินและจัดหาเครื่องมือตรวจจับ AI ใหม่ แต่ผู้ใช้ 4chan กล่าวว่าพวกเขาจะสร้างเทคโนโลยีการโคลนเสียงในเวอร์ชันของตนเองโดยใช้รหัสโอเพ่นซอร์ส โดยโพสต์การสาธิตที่ฟังดูคล้ายกับเสียงที่ผลิตโดย ElevenLabs

“เราต้องการมี AI ที่เรากำหนดเองพร้อมพลังในการสร้าง” ผู้ใช้ 4chan ที่ไม่ระบุชื่อเขียนในโพสต์เกี่ยวกับโครงการ

ในอีเมล โฆษกหญิงของ ElevenLabs กล่าวว่าบริษัทต้องการร่วมมือกับนักพัฒนา AI คนอื่นๆ เพื่อสร้างระบบตรวจจับสากลที่สามารถนำไปใช้ในอุตสาหกรรมได้

วิดีโอที่ใช้เสียงเลียนแบบที่สร้างขึ้นด้วยเครื่องมือของ ElevenLabs หรือเทคโนโลยีที่คล้ายคลึงกัน ได้กลายเป็นไวรัลในช่วงไม่กี่สัปดาห์ที่ผ่านมา รายการหนึ่งโพสต์บน Twitter โดย Elon Musk เจ้าของเว็บไซต์ แสดงบทสนทนาปลอมๆ ที่ดูหยาบคายระหว่างคุณ Rogan, Mr. Musk และ Jordan Peterson นักเคลื่อนไหวเพื่อสิทธิของผู้ชายชาวแคนาดา ในอีกรายการหนึ่งที่โพสต์บน YouTube นาย Rogan ดูเหมือนจะสัมภาษณ์นายกรัฐมนตรี Justin Trudeau เวอร์ชั่นปลอมของแคนาดาเกี่ยวกับเรื่องอื้อฉาวทางการเมืองของเขา

“การผลิตของปลอมดังกล่าวควรเป็นอาชญากรรมที่มีโทษจำคุก 10 ปี” นายปีเตอร์สันกล่าวในทวีตเกี่ยวกับวิดีโอปลอมที่มีเสียงของเขา “เทคโนโลยีนี้อันตรายเกินจะเชื่อ”

ในแถลงการณ์ โฆษกหญิงของ YouTube กล่าวว่าวิดีโอของ Mr. Rogan และ Mr. Trudeau ไม่ได้ละเมิดนโยบายของแพลตฟอร์มเพราะ “ให้บริบทที่เพียงพอ” (ผู้สร้างอธิบายว่าเป็น “วิดีโอปลอม”) บริษัทกล่าวว่า นโยบายการให้ข้อมูลที่ผิด เนื้อหาต้องห้ามที่แก้ไขด้วยวิธีที่ทำให้เข้าใจผิด

ผู้เชี่ยวชาญที่ศึกษาเทคโนโลยี Deepfake แนะนำว่าโฆษณาปลอมที่มีคุณโรแกนและดร. ฮูเบอร์แมนน่าจะสร้างขึ้นด้วยโปรแกรมโคลนเสียง แม้ว่าเครื่องมือที่ใช้จะไม่ชัดเจนก็ตาม เสียงของ Mr. Rogan ถูกรวมเข้ากับ สัมภาษณ์จริงกับ ดร. ฮูเบอร์แมนพูดถึงฮอร์โมนเพศชาย

ผลลัพธ์ไม่สมบูรณ์แบบ คลิปของ Mr. Rogan นำมาจากการสัมภาษณ์ที่ไม่เกี่ยวข้องซึ่งโพสต์เมื่อเดือนธันวาคมกับ Fedor Gorst ผู้เล่นพูลมืออาชีพ การเคลื่อนไหวของปากของคุณ Rogan ไม่ตรงกับเสียง และบางครั้งเสียงของเขาก็ดูไม่เป็นธรรมชาติ หากวิดีโอทำให้ผู้ใช้ TikTok เชื่อได้ ก็ยากที่จะบอกได้: วิดีโอดังกล่าวดึงดูดความสนใจได้มากขึ้นหลังจากถูกระบุว่าเป็นวิดีโอปลอมที่น่าประทับใจ

นโยบายของ TikTok ห้ามการปลอมแปลงดิจิทัล “ซึ่งทำให้ผู้ใช้เข้าใจผิดโดยการบิดเบือนความจริงของเหตุการณ์และก่อให้เกิดอันตรายอย่างมากต่อเนื้อหาของวิดีโอ บุคคลอื่นหรือสังคม” วิดีโอหลายรายการถูกลบออกหลังจากที่ The New York Times ตั้งค่าสถานะพวกเขาไปยังบริษัท Twitter ยังลบวิดีโอบางส่วน

โฆษกของ TikTok กล่าวว่า บริษัทใช้ “การผสมผสานระหว่างเทคโนโลยีและการกลั่นกรองโดยมนุษย์เพื่อตรวจจับและลบ” วิดีโอที่ดัดแปลง แต่ปฏิเสธที่จะให้รายละเอียดเกี่ยวกับวิธีการ

นายโรแกนและบริษัทที่แสดงในโฆษณาปลอมไม่ตอบสนองต่อคำร้องขอความคิดเห็น

บริษัทสื่อสังคมออนไลน์หลายแห่ง รวมถึง Meta และ Twitch ได้สั่งห้ามการทำ Deepfakes และดัดแปลงวิดีโอที่หลอกลวงผู้ใช้ Meta ซึ่งเป็นเจ้าของ Facebook และ Instagram จัดการแข่งขันในปี 2564 เพื่อพัฒนาโปรแกรมที่สามารถระบุของปลอมได้ ส่งผลให้ เครื่องมือหนึ่ง ที่สามารถตรวจจับพวกเขาได้ 83 เปอร์เซ็นต์ของเวลาทั้งหมด

หน่วยงานกำกับดูแลของรัฐบาลกลางตอบสนองช้า กฎหมายของรัฐบาลกลางฉบับหนึ่งจาก 2019 ขอรายงานเกี่ยวกับการสร้างอาวุธของ Deepfake โดยชาวต่างชาติ หน่วยงานรัฐบาลต้องแจ้งให้รัฐสภาทราบหาก Deepfakes กำหนดเป้าหมายไปที่การเลือกตั้งในสหรัฐอเมริกา และสร้างรางวัลเพื่อสนับสนุนการวิจัยเกี่ยวกับเครื่องมือที่สามารถตรวจจับ Deepfake ได้

Ravit Dotan นักวิจัยหลังปริญญาเอกที่ดูแล Collaborative AI Responsibility Lab ที่มหาวิทยาลัย Pittsburgh กล่าวว่า “เราไม่สามารถรอถึงสองปีจนกว่ากฎหมายจะผ่าน” “ถึงตอนนั้น ความเสียหายอาจมากเกินไป เรามีการเลือกตั้งที่จะมาถึงที่นี่ในสหรัฐฯ มันจะเป็นประเด็น”

You may also like

ทิ้งข้อความไว้

Copyright ©️ All rights reserved. | Best of Thailand