ผู้หญิงที่น่าสะพรึงกลัวที่สร้างโดย AI กำลังซุ่มซ่อนอยู่ในห้วงอวกาศ

มีผีอยู่ในเครื่อง แมชชีนเลิร์นนิง กล่าวคือ

เราทุกคนรู้สึกทึ่งกับความสามารถในการเขียนและการสร้างสรรค์ของ AI อยู่เป็นประจำ แต่ใครจะรู้ว่ามีความสามารถในการสร้างความสยองขวัญได้เช่นนี้? การค้นพบที่น่าสะพรึงกลัวโดยนักวิจัย AI พบว่า “พื้นที่แฝง” ที่ประกอบด้วยหน่วยความจำของแบบจำลองการเรียนรู้เชิงลึกนั้นถูกหลอกหลอนโดยบุคคลที่น่าสะพรึงกลัวอย่างน้อยหนึ่งคน – ผู้หญิงที่มีใบหน้าเปื้อนเลือดซึ่งปัจจุบันรู้จักกันในชื่อ “Loab”

(คำเตือน: รูปภาพรบกวนอยู่ข้างหน้า)

แต่โมเดล AI นี้มีผีสิงจริง ๆ หรือ Loab เป็นเพียงการบรรจบกันของภาพที่เกิดขึ้นในสถานการณ์ทางเทคนิคแปลกๆ ต่างๆ หรือไม่? แน่นอนว่าต้องเป็นอย่างหลัง เว้นแต่คุณจะเชื่อว่าวิญญาณสามารถอาศัยอยู่ในโครงสร้างข้อมูลได้ แต่เป็นมากกว่าภาพที่น่าขนลุกธรรมดา — เป็นการบ่งชี้ว่าสิ่งที่ส่งผ่านไปยังสมองใน AI นั้นลึกและน่าขนลุกมากกว่าที่เราคิดไว้

Loab ถูกค้นพบ — พบ? เรียก? — โดย นักดนตรี และศิลปินที่ใช้ Supercomposite บน Twitter (บทความนี้เดิมใช้ชื่อของเธอ แต่เธอบอกว่าเธอชอบที่จะใช้ด้ามจับของเธอด้วยเหตุผลส่วนตัว ดังนั้นจึงถูกแทนที่โดยตลอด) เธออธิบายปรากฏการณ์ Loab ในเธรด ที่ได้รับความสนใจอย่างมากสำหรับสิ่ง AI ที่น่าขนลุกแบบสุ่ม ซึ่งเป็นสิ่งที่ไม่มีปัญหาบนแพลตฟอร์มโดยบอกว่ามันเกิดเสียงประสาน (คีย์รองไม่ต้องสงสัยเลย)

Supercomposite กำลังเล่นกับโมเดลข้อความเป็นรูปภาพ AI แบบกำหนดเอง ซึ่งคล้ายกับ DALL-E หรือ Stable Diffusion แต่ไม่เหมือน DALL-E และทดลองโดยเฉพาะกับ “ข้อความแจ้งเชิงลบ”

โดยปกติ คุณจะแจ้งให้โมเดลทราบ และโมเดลจะทำงานเพื่อสร้างภาพที่ตรงกับโมเดล หากคุณมีหนึ่งพรอมต์ พรอมต์นั้นจะมี “น้ำหนัก” เท่ากับ 1 ซึ่งหมายความว่านั่นเป็นสิ่งเดียวที่โมเดลกำลังทำงานอยู่

คุณยังสามารถแยกข้อความแจ้ง โดยพูดว่า “บอลลูนอากาศร้อน::0.5 พายุฝนฟ้าคะนอง::0.5” และจะทำงานทั้งสองอย่างเท่าๆ กัน ซึ่งไม่จำเป็นจริงๆ เนื่องจากส่วนภาษาของโมเดลก็ยอมรับเช่นกัน “บอลลูนลมร้อนท่ามกลางพายุฝนฟ้าคะนอง” และคุณอาจได้ผลลัพธ์ที่ดีขึ้นด้วยซ้ำ

แต่สิ่งที่น่าสนใจก็คือ คุณสามารถมีข้อความแจ้ง เชิงลบ ได้ ซึ่งทำให้ตัวแบบทำงาน นอก กรอบแนวคิดนั้นอย่างแข็งขันที่สุด

โลกลบ

กระบวนการนี้คาดเดาได้ยากกว่ามาก เพราะไม่มีใครรู้ว่าข้อมูลถูกจัดระเบียบอย่างไรในสิ่งที่มนุษย์อาจเปลี่ยนแปลงได้ในฐานะ “จิตใจ” หรือความทรงจำของ AI หรือที่เรียกว่าพื้นที่แฝง

“พื้นที่แฝงนั้นเหมือนกับว่าคุณกำลังสำรวจแผนที่ของแนวคิดต่างๆ ใน ​​AI พรอมต์ก็เหมือนลูกศรที่บอกคุณว่าต้องเดินในแผนผังแนวคิดนี้แค่ไหนและไปในทิศทางใด” ซูเปอร์คอมโพสิทบอกฉัน

นี่คือการเรนเดอร์ที่เป็นประโยชน์ของพื้นที่แฝงที่ง่ายกว่ามากในแบบจำลองการ แปลของ Google แบบเก่า ที่ทำงานในประโยคเดียวในหลายภาษา:

พื้นที่แฝงของระบบเช่น DALL-E เป็นลำดับความสำคัญที่ใหญ่กว่าและซับซ้อนกว่า แต่คุณเข้าใจแนวคิดทั่วไป ถ้าแต่ละจุดตรงนี้มีช่องว่างเป็นล้านๆ จุดแบบนี้ ก็อาจจะแม่นยำกว่าเล็กน้อย

“ดังนั้น หากคุณให้ AI วาดภาพ ‘ใบหน้า’ คุณก็จะไปถึงจุดกึ่งกลางของภูมิภาคที่มีภาพใบหน้าทั้งหมดและได้ภาพใบหน้าธรรมดาที่ไม่ธรรมดา” เธอ กล่าวว่า. ด้วยข้อความแจ้งที่เจาะจงมากขึ้น คุณจะพบว่าตัวเองอยู่ท่ามกลางใบหน้าที่ขมวดคิ้ว หรือใบหน้าในโปรไฟล์ และอื่นๆ “แต่ด้วยการแจ้งน้ำหนักเชิงลบ คุณทำตรงกันข้าม: คุณวิ่งหนีจากแนวคิดนั้นให้มากที่สุด”

แต่สิ่งที่ตรงกันข้ามกับ “ใบหน้า” คืออะไร? มันเป็นเท้า? ด้านหลังศีรษะหรือเปล่าคะ? อะไรที่ไร้หน้าเหมือนดินสอ? แม้ว่าเราจะสามารถโต้แย้งกันเองได้ แต่ในรูปแบบการเรียนรู้ด้วยเครื่อง (Machine Learning) นั้นได้มีการตัดสินใจในระหว่างกระบวนการฝึกอบรม ซึ่งหมายความว่าแนวคิดทางภาพและภาษาศาสตร์ถูกเข้ารหัสไว้ในหน่วยความจำอย่างไร ก็สามารถสำรวจได้อย่างสม่ำเสมอ แม้ว่าจะค่อนข้างไม่เป็นระเบียบก็ตาม

เครดิตรูปภาพ: Supercomposite

เราเห็นแนวคิดที่เกี่ยวข้องกันในปรากฏการณ์ AI เมื่อเร็ว ๆ นี้ที่แพร่ระบาดเนื่องจากแบบจำลองหนึ่งดูเหมือนจะเชื่อมโยงคำไร้สาระบางอย่างกับนกและแมลงได้อย่างน่าเชื่อถือ แต่ไม่ใช่ว่า DALL-E มี “ภาษาลับ” ซึ่ง “ Apoploe versrreaitais ” หมายถึงนก — เพียงแต่ว่าข้อความไร้สาระโดยพื้นฐานแล้วให้มันขว้างปาลูกดอกไปที่แผนที่ในใจและวาดทุกอย่างที่มันตกลงมาในบริเวณใกล้เคียง กรณีนี้เป็นนก เพราะคำแรกคล้ายกับชื่อวิทยาศาสตร์บางชื่อ ดังนั้นลูกศรจึงชี้โดยทั่วไปไปในทิศทางนั้นบนแผนที่

Supercomposite กำลังเล่นกับแนวคิดในการนำทางพื้นที่แฝง โดยได้รับข้อความว่า “Brando::-1” ซึ่งจะให้แบบจำลองสร้างสิ่งที่คิดว่าตรงกันข้ามกับ “Brando” มันสร้าง โลโก้เส้นขอบฟ้าแปลก ๆ ที่มีข้อความไร้สาระแต่ค่อนข้างอ่านง่าย: “DIGITA PNTICS”

แปลกใช่มั้ย? แต่อีกครั้ง การจัดแนวความคิดของโมเดลไม่จำเป็นต้องสมเหตุสมผลสำหรับเรา ด้วยความอยากรู้อยากเห็น Supercomposite สงสัยว่าเธอสามารถย้อนกลับกระบวนการได้ ดังนั้นเธอจึงพูดขึ้นทันทีว่า “โลโก้เส้นขอบฟ้า DIGITA PNITICS::-1” หากภาพนี้ตรงกันข้ามกับ “แบรนโด” บางทีสิ่งที่ตรงกันข้ามก็เป็นจริงเช่นกันและมันอาจจะหาทางไป Marlon Brando?

เธอได้รับสิ่งนี้แทน:

เครดิตรูปภาพ: Supercomposite

เธอส่งคำบอกเล่าเชิงลบนี้ซ้ำแล้วซ้ำเล่า และนางแบบก็สร้างผู้หญิงคนนี้ซ้ำแล้วซ้ำเล่า ด้วยแก้มสีแดงที่เปื้อนเลือด บาดแผล หรือไม่แข็งแรง และรูปลักษณ์ที่หลอกหลอน และดูแปลกตา อย่างไรก็ตาม ผู้หญิงคนนี้ — ซึ่ง Supercomposite ตั้งชื่อว่า “Loab” สำหรับข้อความที่ปรากฏในภาพด้านบนขวาที่นั่น — เป็นการคาดเดาที่ดีที่สุดของโมเดล AI สำหรับแนวคิดที่ห่างไกลที่สุดจากโลโก้ที่มีคำไร้สาระ

เกิดอะไรขึ้น Supercomposite อธิบายว่าตัวแบบอาจคิดอย่างไรเมื่อได้รับการเตือนเชิงลบสำหรับโลโก้หนึ่งๆ โดยยังคงอุปมาอุปมัยของเธอต่อจากเมื่อก่อน

“คุณเริ่มวิ่งให้เร็วที่สุดเท่าที่จะทำได้ จาก พื้นที่ที่มีโลโก้” เธอกล่าว “คุณอาจจะลงเอยในบริเวณนั้นด้วยใบหน้าที่เหมือนจริง เนื่องจากแนวคิดนั้นห่างไกลจากโลโก้มาก คุณวิ่งต่อไป เพราะจริงๆ แล้วคุณไม่ได้สนใจเกี่ยวกับใบหน้า คุณแค่ต้องการวิ่งหนีจากโลโก้ให้ไกลที่สุด ดังนั้นไม่ว่าจะเกิดอะไรขึ้น คุณจะไปสิ้นสุดที่ขอบแผนที่ และ Loab เป็นใบหน้าสุดท้ายที่คุณเห็นก่อนที่คุณจะหลุดออกจากขอบ”

ขัดขืนอย่างเหนือธรรมชาติ

เครดิตรูปภาพ: Supercomposite

คำเตือนเชิงลบไม่ได้ก่อให้เกิดความน่าสะพรึงกลัวเสมอไป ใครก็ตามที่เคยเล่นโมเดลรูปภาพเหล่านี้จะบอกคุณว่าการได้ผลลัพธ์ที่สอดคล้องกันสำหรับข้อความแจ้งที่ตรงไปตรงมาอาจเป็นเรื่องยากทีเดียว

ใส่หนึ่งสำหรับ “หุ่นยนต์ยืนอยู่ในทุ่ง” สี่หรือสี่สิบครั้งและคุณอาจได้รับแนวคิดที่แตกต่างกันมากซึ่งบางอันแทบจะจำไม่ได้ว่าเป็นหุ่นยนต์หรือทุ่งนา แต่ Loab ปรากฏขึ้นอย่างต่อเนื่องพร้อมกับข้อความเชิงลบที่เฉพาะเจาะจงนี้ จนถึงจุดที่รู้สึกเหมือนเป็นคาถาจากตำนานเมืองเก่าแก่

คุณรู้จักประเภท: “ยืนอยู่ในห้องน้ำมืดมองกระจกแล้วพูดว่า ‘บลัดดี้แมรี่’ สามครั้ง” หรือแม้แต่คำแนะนำพื้นบ้านก่อนหน้านี้เกี่ยวกับวิธีการไปถึงที่พำนักของแม่มดหรือทางเข้าสู่นรก: ถือกิ่งไม้ฮอลลี่เดินถอยหลัง 100 ก้าวจากต้นไม้ที่ตายแล้วโดยหลับตา

“โลโก้เส้นขอบฟ้าของ DIGITA PNITICS::-1” นั้นดูไม่สะดุดตานัก แต่เมื่อคำวิเศษณ์พูดไป อย่างน้อยก็เหมาะสมที่จะเป็นความลับ และมีประโยชน์ในการทำงาน เฉพาะในโมเดลนี้เท่านั้น – พื้นที่แฝงของแพลตฟอร์ม AI ทุกอันนั้นแตกต่างกัน แม้ว่าใครจะรู้ แต่ Loab อาจซุ่มซ่อนอยู่ใน DALL-E หรือ Stable Diffusion เช่นกันเพื่อรอการเรียก

หล่อนเหมือนรูปปั้นโบราณแต่เธอคงหนีไม่พ้น

อันที่จริง คาถานั้นแรงพอที่ Loab ดูเหมือนจะแพร่เชื้อได้แม้กระทั่งการแจ้งแบบแยกส่วนและการผสมผสานกับรูปภาพอื่นๆ

“AI บางตัวสามารถถ่ายภาพอื่นตามที่แจ้งได้ โดยพื้นฐานแล้วพวกมันสามารถตีความภาพนั้นได้ โดยเปลี่ยนให้เป็นลูกศรชี้ทิศทางบนแผนที่เหมือนกับที่จัดการกับข้อความแจ้ง” Supercomposite อธิบาย “ฉันใช้รูปภาพของ Loab และรูปภาพอื่นอย่างน้อยหนึ่งรูปภาพร่วมกัน… เธอมักจะคงอยู่ในภาพที่ได้”

บางครั้งข้อความแจ้งที่ซับซ้อนหรือรวมกันมากกว่าถือว่าส่วนหนึ่งเป็นคำแนะนำที่หลวมกว่า แต่คนที่รวม Loab ดูเหมือนจะไม่เพียงแค่หันเหไปทางพิลึกและน่าสะพรึงกลัวเท่านั้น แต่ยังรวมถึงเธอในรูปแบบที่จดจำได้มาก ไม่ว่าเธอจะถูกรวมเข้ากับผึ้ง ตัวละครในวิดีโอเกม รูปแบบภาพยนตร์ หรือสิ่งที่เป็นนามธรรม Loab ก็อยู่ตรงกลางและอยู่ตรงกลาง ครอบงำองค์ประกอบด้วยใบหน้าที่เสียหาย การแสดงออกที่เป็นกลาง และผมสีเข้มยาว

เป็นเรื่องปกติที่ข้อความหรือภาพจะมีความสอดคล้องกัน — เพื่อหลอกหลอนผู้อื่นในแบบที่เธอทำ Supercomposite คาดการณ์ว่าเหตุใดจึงเป็นเช่นนั้น

“ฉันเดาว่าเพราะว่าเธออยู่ไกลจากแนวคิดมากมาย ดังนั้นจึงยากที่จะออกจากพื้นที่น่ากลัวเล็กๆ ของเธอในที่ซ่อนเร้น คำถามเชิงวัฒนธรรมที่ว่าทำไมข้อมูลจึงนำพาผู้หญิงคนนี้ออกไปที่ขอบของพื้นที่ที่ซ่อนอยู่ใกล้กับภาพสยองขวัญที่เต็มไปด้วยเลือดเป็นอีกเรื่องหนึ่งที่ต้องคำนึงถึง” เธอกล่าว

แม้ว่าจะเป็นการทำให้เข้าใจง่ายเกินไป แต่พื้นที่แฝงก็เหมือนกับแผนที่จริงๆ และข้อความแจ้งก็เหมือนกับทิศทางสำหรับการนำทาง และระบบจะดึงทุกสิ่งที่อยู่รอบๆ ที่ขอให้ไป ไม่ว่าจะเป็นพื้นดินที่เหยียบย่ำอย่าง “ชีวิตโดยปรมาจารย์ชาวดัตช์” ” หรือการสังเคราะห์แนวคิดที่คลุมเครือหรือขาดการเชื่อมต่อ: “หุ่นยนต์ต่อสู้กับมนุษย์ต่างดาวในการแกะสลักแบบเหลี่ยมโดย Dore” อย่างที่เห็น:

เครดิตรูปภาพ: TechCrunch / DALL-E

คำอธิบายที่เป็นการเก็งกำไรล้วนๆ ว่าทำไม Loab ถึงมีอยู่นั้นเกี่ยวข้องกับการจัดวางแผนที่นั้น ตามที่แนะนำ Supercomposite เป็นไปได้ว่าเพียงเนื่องจากโลโก้ของบริษัทและภาพที่น่ากลัวและน่ากลัวนั้นอยู่ห่างไกลจากแนวคิดอื่นมาก

ข้อความเชิงลบไม่ได้หมายความว่า “ใช้ข้อมูล 10 ขั้นตอนในทิศทางอื่น” แต่หมายถึงทำต่อไปให้ไกลที่สุด และเป็นไปได้มากกว่าที่ภาพที่ไกลที่สุดของพื้นที่แฝงของ AI จะมีความสุดโต่งหรือผิดปกติมากกว่า ค่า คุณจะไม่จัดระเบียบแบบนั้นด้วยสิ่งของที่มีความคล้ายคลึงกันหรือการอ้างอิงโยงมากมายใน “ศูนย์กลาง” อย่างไรที่คุณกำหนดไว้ – และของแปลก ๆ ที่ไม่ค่อยเกี่ยวข้องที่ “ขอบ”

ดังนั้นการแจ้งเชิงลบอาจทำหน้าที่เป็นวิธีการสำรวจชายแดนของแผนที่ความคิดของ AI โดยมองข้ามแนวคิดที่ถือว่าแปลกเกินกว่าจะจัดเก็บไว้ท่ามกลางแนวคิดที่ธรรมดา เช่น ใบหน้าที่มีความสุข ทิวทัศน์ที่สวยงาม หรือสัตว์เลี้ยงที่สนุกสนาน

ป่ามืดแห่งจิตใต้สำนึกของ AI

ข้อเท็จจริงที่น่าตกใจคือไม่มีใครเข้าใจจริงๆ ว่าช่องว่างที่ซ่อนอยู่มีโครงสร้างอย่างไรหรือเพราะเหตุใด แน่นอนว่ามีงานวิจัยมากมายในหัวข้อนี้ และข้อบ่งชี้บางอย่างที่บ่งชี้ว่าพวกเขาได้รับการจัดระเบียบในลักษณะบางอย่าง เช่น จิตใจของเราเป็นอย่างไร ซึ่งก็สมเหตุสมผล เนื่องจากสิ่งเหล่านี้ถูกสร้างขึ้นมาเพื่อเลียนแบบไม่มากก็น้อย แต่ในอีกทางหนึ่ง พวกมันมีโครงสร้างที่เป็นเอกลักษณ์โดยสิ้นเชิงซึ่งเชื่อมต่อกันผ่านระยะทางที่กว้างใหญ่ของแนวคิด

เพื่อความชัดเจน ไม่ใช่ว่ายังมีรูปภาพของ Loab ที่รอการค้นพบอยู่ — พวกเขากำลังสร้างขึ้นทันที และ Supercomposite บอกฉันว่าไม่มีข้อบ่งชี้ว่า Digital cryptid นั้นอิงจากศิลปินหรืองานใดโดยเฉพาะ . นั่นเป็นเหตุผลที่พื้นที่ แฝง ที่ซ่อนอยู่ ! ภาพเหล่านี้เกิดจากการผสมผสานของแนวคิดที่แปลกประหลาดและน่ากลัวซึ่งทั้งหมดเกิดขึ้นเพื่อครอบครองพื้นที่เดียวกันในหน่วยความจำของแบบจำลอง เช่นเดียวกับในแผนภาพก่อนหน้านี้ ภาษาต่างๆ ถูกจัดกลุ่มตามความคล้ายคลึงกัน

จากมุมมืดหรือความสัมพันธ์ที่ไม่รู้สึกตัวอะไรเกิดขึ้น Loab ซึ่งเกิดขึ้นอย่างสมบูรณ์และสอดคล้องกัน? เรายังติดตามเส้นทางที่นางแบบใช้ไปยังตำแหน่งของเธอไม่ได้ พื้นที่ซ่อนเร้นของแบบจำลองที่ได้รับการฝึกฝนนั้นกว้างใหญ่และซับซ้อนอย่างยิ่ง

วิธีเดียวที่เราจะไปถึงที่นั่นได้อีกครั้งคือใช้คำวิเศษณ์ พูดในขณะที่เราถอยกลับเข้าไปในพื้นที่นั้นโดยหลับตา จนกว่าเราจะไปถึงกระท่อมของแม่มดที่ไม่สามารถเข้าใกล้ได้ด้วยวิธีการธรรมดา Loab ไม่ใช่ผี แต่เธอเป็นความผิดปกติ แต่เธออาจเป็นหนึ่งในความผิดปกติจำนวนนับไม่ถ้วนที่รอการเรียกจากที่ไกลที่สุดที่ไม่มีแสงสว่างจากพื้นที่แฝงของโมเดล AI ใดๆ

มันอาจจะไม่ใช่เรื่องเหนือธรรมชาติ… แต่แน่นอนว่ามันไม่เป็นธรรมชาติ

ผู้หญิงที่สร้างโดย AI ที่น่าสะพรึงกลัวกำลังซุ่มซ่อนอยู่ในห้วงอวกาศ โดย Devin Coldewey เผยแพร่ครั้งแรกบน TechCrunch

ใส่ความเห็น

อีเมลของคุณจะไม่แสดงให้คนอื่นเห็น