หมวดหมู่: Cold Takes (Cold Takes)

คลิกขวาล่างเพื่อดาวน์โหลดหรือค้นหาใน Apple Podcasts, Spotify, Stitcher เป็นต้น

หากเราสามารถทำอะไรบางอย่างเพื่อลดความน่าจะเป็นที่เผ่าพันธุ์มนุษย์จะสูญพันธุ์ ¹ นั่นคงจะดีมาก แต่ จะ ดีแค่ไหน? เป็นการป้องกันการสูญพันธุ์มากกว่า เช่น “ช่วยชีวิต 8 พันล้านคน” (จำนวนคนที่มีชีวิตอยู่ในปัจจุบัน) หรือ “ช่วยชีวิต 80 พันล้าน” (จำนวนที่จะมีชีวิตอยู่ต่อไปอีก 10 ชั่วอายุคน) … หรือ “ช่วยชีวิต 625 พันล้านชีวิต” ( โลกของเราในข้อมูล ประมาณการ จำนวนคนที่สามารถเกิดได้) … หรือ “ช่วยชีวิตคนจำนวนมากอย่างตลกขบขัน” ( Nick Bostrom ให้เหตุผลมากกว่า 10 ^ 46 เป็นจำนวนคนทั้งหมดรวมถึง คนดิจิทัล , ใครจะมีอยู่)?

โดยเฉพาะอย่างยิ่ง “คนที่จะมีชีวิตที่ดีในเมื่อพวกเขาจะไม่เคยมีอยู่” สิ่งที่เราควรให้ความสำคัญหรือไม่? ดีเท่ากับ “ป้องกันการตายก่อนวัยอันควรหรือไม่”

ในบรรดา ผู้เห็นแก่ผู้อื่นที่มีประสิทธิภาพ เป็นเรื่องปกติที่จะตอบว่า: “ใช่ มันคือ; การป้องกันการสูญพันธุ์นั้นอยู่ที่ไหนสักแห่งและช่วยชีวิต [จำนวนบ้าๆ] ดังนั้นหากมีวิธีใดที่จะลดอัตราการสูญพันธุ์ลงได้แม้เพียงเล็กน้อย นั่นคือสิ่งที่เราควรให้ความสนใจและทรัพยากรทั้งหมดที่เราสามารถทำได้”

ฉันรู้สึกขัดแย้งกับเรื่องนี้

• ฉันไม่เห็นความสำคัญของความเสี่ยงเฉพาะที่อาจสูญพันธุ์ เช่น ความเสี่ยงจาก AI ขั้นสูง แต่ ส่วนใหญ่เป็น เพราะฉันคิดว่าความเสี่ยงนั้น ใหญ่มาก และถูกละเลยจริงๆ ฉันคิดว่าพวกเขาน่าจะสนใจแม้ว่าเราจะ เพิกเฉย ต่อข้อโต้แย้งเช่นข้างต้น และใช้การประมาณการที่พอประมาณมากขึ้นว่า “จะมีคนได้รับผลกระทบกี่คน”
• ฉันขายน้อยกว่าที่เราควรทำงานกับความเสี่ยงเหล่านี้หากพวกเขามีขนาดเล็กมาก และฉันมีความรู้สึกผสมปนเปกับแนวคิดที่ว่า “คนที่จะได้มีชีวิตที่ดี โดยที่พวกเขาไม่เคยมีอยู่จริง” นั้นดีพอๆ กับ “การป้องกันการตายก่อนวัยอันควร”

เพื่อสะท้อนความรู้สึกที่ปะปนเหล่านี้ ฉันจะตรวจสอบกรณีเชิงปรัชญาสำหรับการดูแล “ชีวิตพิเศษ” (ยกเว้นหัวข้อแรกด้านบน) ผ่านการ สนทนาระหว่างตัวเองสองรุ่น: Utilitarian Holden (UH) และ Non-Utilitarian โฮลเดน (NUH). ²

นี่แสดงถึงบทสนทนาจริง ๆ ที่ฉันเคยมีกับตัวเอง (ดังนั้น ไม่มีฝ่ายใดฝ่ายหนึ่งเป็นคนไร้เหตุผล) แม้ว่าบทสนทนาเฉพาะนี้จะใช้เพื่อแสดงให้เห็นถึงมุมมองของ UH เป็นหลักและวิธีที่พวกเขาได้รับการปกป้องจากการคัดค้านเบื้องต้นและ/หรือพื้นฐานจาก NUH ในการเจรจาในอนาคต NUH จะยกข้อโต้แย้งที่ซับซ้อนยิ่งขึ้น

นี่เป็นส่วนหนึ่งของชุดเสวนาเกี่ยวกับ จริยธรรมที่พิสูจน์อนาคต : พยายามตัดสินใจอย่างมีจริยธรรมที่เราสามารถภาคภูมิใจได้ในอนาคต หลังจากความก้าวหน้าทางศีลธรรม (ทางสังคมและ/หรือส่วนบุคคล) มากมาย (บทสนทนาก่อนหน้านี้ ที่นี่ แม้ว่าอันนี้ยืนอยู่คนเดียว)

หมายเหตุอีกสองสามข้อก่อนที่ฉันจะเริ่มในที่สุด:

• ประเภทที่นี่คือปรัชญา และประเภทการโต้แย้งทั่วไปคือการทดลองทางความคิด: “ถ้าคุณต้องเลือกระหว่าง A และ B คุณจะเลือกอะไร” (ตัวอย่างเช่น: “จะดีกว่าไหมที่จะป้องกันไม่ให้คนตายก่อนวัยอันควรหรือปล่อยให้คน 10 คนมีชีวิตอยู่ซึ่งจะไม่เกิดใหม่?”)
• เป็นเรื่องปกติที่จะตอบคำถามแบบนี้ด้วยความคิดเห็นเช่น “ฉันไม่คิดว่าตัวเลือกแบบนั้นจะเกิดขึ้นในชีวิตจริง จริงๆ แล้ว คุณสามารถได้ทั้ง A และ B ถ้าคุณทำสิ่งที่ถูกต้อง” หรือ “จริงๆ แล้ว A ไม่ใช่ เป็นไปได้ สมมติฐานพื้นฐานเกี่ยวกับวิธีการทำงานของโลกจริง ๆ อยู่ที่นี่” คำแนะนำทั่วไปของฉันเมื่อพิจารณาปรัชญาคือการหลีกเลี่ยงปฏิกิริยาเช่นนี้และคิดว่าคุณจะทำอย่างไรถ้าคุณ ต้องเลือก สิ่งที่ถูกชี้ไปที่แม้ว่าคุณจะคิดว่าสมมติฐานพื้นฐานของผู้เขียนเกี่ยวกับสาเหตุที่ตัวเลือกนั้นผิด ในทำนองเดียวกัน หากคุณพบว่าส่วนหนึ่งของการโต้แย้งที่ไม่น่าเชื่อถือ ฉันขอแนะนำให้แกล้งทำเป็นว่าคุณยอมรับมันสำหรับส่วนที่เหลือของเนื้อหา เพื่อดูว่าข้อโต้แย้งที่เหลือ จะ น่าสนใจภายใต้สมมติฐานนั้นหรือไม่
• ฉันมักจะยกตัวอย่างว่าคนเราต้องเผชิญกับทางเลือกระหว่าง A กับ B ในชีวิตจริงได้อย่างไร เพื่อให้ง่ายต่อการจินตนาการ – แต่มันเป็นไปไม่ได้ที่จะยกตัวอย่างนี้ในรายละเอียดที่เพียงพอและมีการป้องกันที่เพียงพอเพื่อให้ผู้อ่านทุกคนดูเหมือนจริง โดยปราศจากความฟุ้งซ่านจากหัวข้อที่มีอยู่
• ปรัชญาต้องการการระงับความไม่เชื่อชั่วคราว เนื่องจากเป้าหมายคือการถามคำถามเกี่ยวกับ (ตัวอย่าง) สิ่งที่คุณให้ ความสำคัญ ในขณะที่แยกคำถามเหล่านั้นออกจากคำถามเกี่ยวกับสิ่งที่คุณ เชื่อ (สำหรับข้อมูลเพิ่มเติมเกี่ยวกับวิธีการแยกค่านิยมและความเชื่อออกจากกัน ให้ดูที่ Bayesian Mindset )

เสวนาเรื่อง “ชีวิตพิเศษ”

เพื่อให้ชัดเจนว่าใครพูดเมื่อใด ฉันใช้ -UH- สำหรับ “Utilitarian Holden” และ -NUH- สำหรับ “non-Utilitarian Holden” (ในเวอร์ชั่นเสียงของงานชิ้นนี้ ภรรยาของผมให้เสียงว่า NUH)

-เอ่อ-

มาเริ่มกันที่นี่:

• สมมติว่าถ้ามนุษยชาติสามารถหลีกเลี่ยงการสูญพันธุ์ได้ (และอาจ กระจายไปทั่วกาแลคซี ) จำนวนผู้คนที่จะดำรงอยู่ได้จะอยู่ที่ประมาณหนึ่งควินล้าน หรือที่เรียกว่า “หนึ่งพันล้านล้าน” หรือ “10^18” (ซึ่งใกล้เคียงกับ ³ ของโลกของเราในข้อมูลประมาณการ จำนวนคนที่สามารถมีชีวิตอยู่ได้ โดยไม่สนใจความเป็นไปได้ของ คนดิจิทัล ซึ่งอาจนำไปสู่จำนวนที่มาก ขึ้นอย่างมากมาย )
• ถ้าคุณคิดว่ามันมีโอกาสเกิดขึ้นจริง 1% ก็คือ ค่าที่คาดหวังไว้ ที่ 10^16 คน ซึ่งยังคงมากพอที่จะใส่ส่วนที่เหลือของสิ่งที่ฉันจะพูดได้
• คุณสามารถคิดได้ดังนี้ ลองนึกภาพคนทั้งหมดที่มีอยู่หรือเคยมีได้ ทุกคนยืนอยู่ในที่เดียว ปัจจุบันมีคนแบบนี้ประมาณ 10^10 คนที่ยังมีชีวิตอยู่ และที่เหลือเป็นเพียง “ผู้ที่มีศักยภาพ” ซึ่งหมายความว่ามากกว่า 99.999% ของคนทั้งหมดเป็น “ผู้ที่มีศักยภาพ”
• และตอนนี้ลองนึกภาพว่าเรากำลังพูดถึงตำแหน่งที่คุณซึ่งเป็นบุคคลที่มีสิทธิพิเศษในการเป็น หนึ่งในคนกลุ่มแรกๆ ที่ ควรจะมุ่งเน้นความพยายามของคุณในการช่วยเหลือผู้อื่น และคุณพูดว่า:“ เอ้ยฉันขาดจริง ๆ :
  • ฉันคิดว่าถ้าฉันมุ่งความสนใจไปที่โลกปัจจุบัน บางทีฉันอาจช่วยป้องกันการเสียชีวิตก่อนวัยอันควรได้ถึง 10,000 ราย (นี่จะเป็นสิ่งที่ตั้งเป้าไว้สูงมาก)
  • หรือฉันอาจทำให้ความเสี่ยงในการสูญพันธุ์ลดลงเล็กน้อย เช่น 1% ของ 1% ของ 1% ของ 1% นั่นจะช่วยคุณได้ประมาณ 100 ล้านคน ⁴ ฉันควรทำอย่างไร”
  • (อย่าสนใจความจริงที่ว่าการช่วยเหลือผู้คนในโลกปัจจุบันสามารถลดความเสี่ยงในการสูญพันธุ์ได้ แต่ก็อาจเพิ่มความเสี่ยงต่อการสูญพันธุ์ได้เช่นกัน – ใครจะรู้ อาจมีการกระทำที่กำหนดเป้าหมายลดความเสี่ยงในการสูญพันธุ์ได้ดีกว่าการช่วยเหลือโลกปัจจุบันคือประเด็น .)

    ในสถานการณ์นั้น ฉันคิดว่าทุกคนคงจะพูดว่า “นี่เป็นคำถามได้อย่างไร? แม้ว่าผลกระทบของคุณต่อความเสี่ยงในการสูญพันธุ์จะมีเพียงเล็กน้อย แม้ว่าจะไม่แน่นอนและคลุมเครือ แต่ก็มีผู้คนอีกมากมายที่ได้รับผลกระทบจากสิ่งนั้น หากคุณเลือกที่จะมุ่งความสนใจไปที่โลกปัจจุบัน คุณกำลังบอกว่าคุณคิดว่าคนในปัจจุบันนับมากกว่าคนในอนาคตมากกว่า 10,000 เท่า

“ตามจริงแล้ว คนส่วนใหญ่ที่มีชีวิตอยู่ในสมัยของคุณทำแบบนั้น – พวกเขาเพิกเฉยต่ออนาคต แต่สักวันหนึ่ง หากสังคมฉลาดขึ้นทางศีลธรรม สิ่งนั้นจะดูรับไม่ได้ ในทำนองเดียวกัน ถ้าคุณฉลาดขึ้นทางศีลธรรม คุณจะเสียใจ โดยพื้นฐานแล้วตัดสินใจว่า 99.999%+ ของเพื่อนมนุษย์ไม่คุ้มที่จะกังวลเพียงเพราะยังไม่มี

“ทำสิ่งที่มองไปข้างหน้า สิ่งที่ พิสูจน์อนาคต มุ่งเน้นไปที่การช่วยเหลือผู้คนจำนวนมากที่ยังไม่มี”

-NUH-

ฉันรู้สึกเหมือนคุณกำลังข้ามขั้นตอนใหญ่มากที่นี่ เรากำลังพูดถึงสิ่ง ที่คนที่มีศักยภาพซึ่งยังไม่มีตัวตน จะพูดเกี่ยวกับ การให้โอกาสพวกเขามีอยู่จริงหรือ? มันสมเหตุสมผลหรือไม่?

นั่นคือ: ดูเหมือนว่าคุณกำลังนับ “ผู้ที่มีศักยภาพ” ทุกคนว่าเป็นคนที่มีความปรารถนาที่เราควรจะเคารพ รวมถึงความปรารถนาที่จะมีอยู่แทนที่จะไม่มีอยู่จริง ดังนั้น เหนือสิ่งอื่นใด นั่นหมายความว่าประชากรจำนวนมากขึ้นจะดีกว่าไหม

-เอ่อ-

ใช่.

-NUH-

ฉันหมายความว่ามันแปลกมากใช่มั้ย เช่นเดียวกับการมีลูกให้มากที่สุดเท่าที่จะมากได้นั้นมีความจำเป็นตามหลักจริยธรรมหรือไม่?

-เอ่อ-

ไม่ใช่ด้วยเหตุผลหลายประการ

สิ่งที่ยิ่งใหญ่ที่สุดในตอนนี้คือเรามุ่งเน้นไปที่ลัทธิการ ใช้ประโยชน์แบบบาง – วิธีตัดสินใจเกี่ยวกับการกระทำเช่นการบริจาคและการเลือกอาชีพ ไม่ใช่วิธีการเลือกทุกอย่าง สำหรับคำถามเช่นว่าจะมีลูกกี่คน ฉันคิดว่ายังมีขอบเขตมากขึ้นสำหรับศีลธรรมหลายมิติที่ไม่เกี่ยวกับ การเคารพผลประโยชน์ของผู้อื่น

โดยทั่วไปแล้ว ฉันยังคิดว่าเราอาจสับสนได้ถ้าเรากำลังพูดถึงการตัดสินใจเกี่ยวกับการสืบพันธุ์ เนื่องจากเอกราชในการสืบพันธุ์เป็นค่านิยมที่สำคัญเช่นนี้ และเป็นสิ่งที่ในอดีตถูกบ่อนทำลายอย่างน่าเกลียดในบางครั้ง ความคิดเห็นของฉันที่นี่ไม่เกี่ยวกับการตัดสินใจเรื่องการสืบพันธุ์ แต่เป็นการหลีกเลี่ยงหายนะที่มีอยู่ Longtermists (คนที่มุ่งเน้นไปที่อนาคตระยะยาวในขณะที่ฉันสนับสนุนที่นี่) มักจะมุ่งเน้นไปที่สิ่งต่าง ๆ ที่อาจส่งผลกระทบต่อประชากรโลก ขั้นสุดท้ายและระยะยาว และไม่ชัดเจนว่าการมีลูกหรือไม่ส่งผลกระทบอย่างไร ( เพราะปัจจัยหลักที่อยู่เบื้องหลังจำนวนประชากรระยะยาวสูงสุดของโลกนั้นเกี่ยวข้องกับสิ่งต่างๆ เช่น โอกาสในการสูญพันธุ์และ การเปลี่ยนแปลงทั่วทั้งอารยธรรมที่ระเบิด ได้ และไม่ชัดเจนว่าการมีลูกมีผลกระทบต่อสิ่งเหล่านั้นอย่างไร)

ดังนั้น ให้จดจ่ออยู่กับคำถามที่ฉันถามแทน นั่นคือ: หากคุณป้องกันภัยพิบัติที่มีอยู่เพื่อให้มีประชากรจำนวนมากในอนาคตที่เฟื่องฟูในอนาคตแต่ละคนจะนับเป็น “ผู้รับผลประโยชน์” ของสิ่งที่คุณทำเพื่อให้ผลประโยชน์ของพวกเขารวมกันเป็นจำนวนมากหรือไม่?

-NUH-

ตกลง. ฉันบอกว่าไม่ “คนในอนาคตที่มีศักยภาพ” ดังกล่าวจะไม่นับ และฉันไม่ประทับใจกับเรื่องราวของคุณเกี่ยวกับเรื่องที่ว่าวันหนึ่งมันอาจจะดูโหดร้ายหรือไม่เกรงใจใคร ไม่ใช่ว่าฉันคิดว่าคนบางประเภทมีค่าน้อยกว่าคนอื่น แต่ฉันไม่คิดว่า การเพิ่มโอกาสที่ใครบางคนเคยมีอยู่ จะเป็นประโยชน์ต่อพวกเขา

-เอ่อ-

มาดูความท้าทายเล็กๆ น้อยๆ สำหรับตำแหน่งของคุณกัน คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับความท้าทายเหล่านี้ได้จากวรรณกรรมจริยธรรมของประชากรเชิงวิชาการ ฉันแนะนำ เรื่องสั้นของ Hilary Greaves เกี่ยวกับเรื่องนี้

ความท้าทายที่ 1: ผู้คนในอนาคตและ “เพียงความขัดแย้งที่เพิ่มขึ้น”

-เอ่อ-

ดังนั้นคุณจึงบอกว่าคุณไม่เห็น “คนในอนาคตที่มีศักยภาพ” เป็น “ผู้รับผลประโยชน์” ที่มีผลประโยชน์นับไม่ถ้วน แต่สมมุติว่าผลกระทบที่เลวร้ายที่สุดของการเปลี่ยนแปลงสภาพภูมิอากาศจะไม่เกิดขึ้นอีก 80 ปีหรือมากกว่านั้น ในกรณีนี้ คนส่วนใหญ่ที่ได้รับผลกระทบจะเป็นคนที่ไม่มีชีวิตอยู่ในปัจจุบัน คุณลดราคาคนเหล่านั้นและความสนใจของพวกเขาหรือไม่?

-NUH-

ไม่ แต่มันต่างกัน การเปลี่ยนแปลงสภาพภูมิอากาศไม่ได้เกี่ยวกับว่าพวกเขาจะมีตัวตนหรือไม่ แต่อยู่ที่ว่าชีวิตของพวกเขาจะดีขึ้นหรือแย่ลง

-เอ่อ-

ก็มันเป็นเรื่องของทั้งคู่ โลกที่เรามี/ป้องกัน/บรรเทาการเปลี่ยนแปลงสภาพภูมิอากาศประกอบด้วย ผู้คนที่แตกต่างไป จากเดิมอย่างสิ้นเชิงในอนาคตจากโลกที่เราไม่ได้อยู่ ความแตกต่างระหว่างสองโลกจะสั่นสะเทือนอย่างไม่เป็นระเบียบและส่งผลกระทบต่อสิ่งต่าง ๆ เช่นอสุจิที่ปฏิสนธิซึ่งไข่ซึ่งจะเปลี่ยนอนาคตคนที่มีอยู่อย่างสมบูรณ์

ดังนั้นคุณจึงไม่สามารถชี้ไปที่กลุ่มคนที่ “ได้รับผลกระทบ” จากการเปลี่ยนแปลงสภาพภูมิอากาศไม่ได้จริงๆ ความปรารถนาของคุณที่จะบรรเทาการเปลี่ยนแปลงสภาพภูมิอากาศเป็นการทำให้ผู้คน ดีขึ้น ในอนาคต แทนที่จะ ทำให้คนแย่ลงไป อีก มันค่อนข้างยากที่จะรักษาตำแหน่งนี้ไว้ในขณะที่บอกว่าคุณสนใจเฉพาะ “ตัวจริง” มากกว่าคนที่ “มีศักยภาพ” หรือ “ปัจจุบัน” มากกว่า “อนาคต”

-NUH-

ฉันยังสามารถรับตำแหน่งที่:

• หากมีคนจำนวนหนึ่ง การทำบางสิ่ง (เช่น บรรเทาการเปลี่ยนแปลงสภาพภูมิอากาศ) จะเป็นการดี ที่ทำให้มีคนที่ดีกว่าแทนที่จะเป็นคนที่แย่กว่า
• แต่นั่นไม่ได้หมายความว่าจะดีที่จะมีผู้คน มากกว่า ที่จะเป็นอย่างอื่น การเพิ่มผู้คนจำนวนมากขึ้นเป็นเพียงการถือว่าพวกเขามีชีวิตที่ดีพอสมควร

-เอ่อ-

นั่นจะเป็นตำแหน่งที่ยากจะรักษาไว้

พิจารณาสามโลกที่เป็นไปได้:

• โลก A: คนในอนาคต 5 พันล้านคนมีชีวิตที่ดี สมมติว่าชีวิตของพวกเขาเป็น 8/10 ในระดับที่เกี่ยวข้อง (การลดคุณภาพชีวิตเป็นตัวเลขเป็นการทำให้เข้าใจง่ายขึ้น ดูเชิงอรรถสำหรับข้อมูลเพิ่มเติมเกี่ยวกับ ⁵ นี้)
• โลก B: คนในอนาคต 5 พันล้านคนมี ดี กว่าชีวิตที่ดีเล็กน้อย สมมติว่า 8.1/10 และมีผู้คนอีก 5 พันล้านคนที่มีชีวิตที่ไม่ค่อยดีนักแต่ก็ยังค่อนข้างดีอยู่ สมมุติว่า 7/10
• โลก C: อนาคต 10 พันล้านคนมีชีวิตที่ดี 8/10

การอ้างสิทธิ์: โลก B > โลก A และ โลก C > โลก B. ดังนั้น โลก C > โลก A.

ฉันเดาว่าคุณคิดว่าโลก B ดูดีกว่าโลก A อย่างชัดเจน – มีคนในอนาคตที่ “ดีกว่าแทนที่จะแย่ลง” 5 พันล้านคนและผู้คนที่เพิ่มเข้ามา 5 พันล้านคนดูเหมือน เป็นกลาง (ไม่ดีไม่เลว)

แต่ฉันก็เดาด้วยว่าคุณคิดว่าโลก C ดูเหมือนจะดีกว่าโลก B อย่างชัดเจน การเปลี่ยนแปลงนี้ทำให้คุณภาพชีวิตแย่ลงเล็กน้อยสำหรับประชากรครึ่งหนึ่งที่ดีกว่า และการปรับปรุงอย่างมากสำหรับครึ่งที่แย่กว่านั้น

แต่ถ้า World C ดีกว่า World B และ World B ดีกว่า World A นั้นหมายความว่า World C ดีกว่า World A? และโลก C ก็เหมือนกับโลก A เพียงประชากรที่ใหญ่กว่า

-NUH-

ฉันยอมรับสัญชาตญาณของฉันเป็นอย่างที่คุณพูด ฉันชอบ B เมื่อเปรียบเทียบกับ A และ C เมื่อเปรียบเทียบกับ B อย่างไรก็ตาม เมื่อฉันดู C กับ A ฉันไม่แน่ใจว่าจะคิดอย่างไร อาจมีข้อผิดพลาดอยู่บ้าง ตัวอย่างเช่น บางทีฉันควรคิดว่ามัน ไม่ดี ที่จะมีคนอื่นมาเพิ่มอีก

-เอ่อ-

นั่นก็หมายความว่าเผ่าพันธุ์มนุษย์จะสูญพันธุ์จะ ยิ่งใหญ่ ใช่ไหม? การสูญพันธุ์จะทำให้ผู้คนจำนวนมหาศาลไม่สามารถดำรงอยู่ได้

-NUH-

นั่นไม่ใช่ที่ที่ฉันอยู่แน่นอน

ตกลง คุณทำให้ฉันงงได้สำเร็จว่าเกิดอะไรขึ้นในสมองของฉัน ก่อนที่ฉันจะลองประมวลผล คุณทำให้ฉันสับสนมากกว่านี้ไหม

ความท้าทายที่ 2: ความไม่สมมาตร

-เอ่อ-

สิ่งที่แน่นอน มาพูดถึงปัญหาอื่นกับการพยายาม “เป็นกลาง” กันว่าจะมีคนมากหรือน้อยในอนาคต

สมมติว่าคุณสามารถดำเนินการบางอย่างเพื่อป้องกันไม่ให้โทเปียอันน่าสยดสยองเกิดขึ้นในมุมที่ห่างไกลของดาราจักร ในโทเปียนี้ คนส่วนใหญ่หวังว่าจะไม่มีพวกเขาอยู่ แต่พวกเขาจะไม่มีทางเลือกนั้น คุณมีโอกาสที่จะทำให้แน่ใจว่าแทนที่จะเป็นโทเปียนี้จะไม่มีอะไรอยู่ที่นั่น โอกาสนั้นดูมีค่าหรือไม่?

-NUH-

มันมีค่ามหาศาล

-เอ่อ-

ตกลง. สัญชาตญาณที่กว้างกว่าที่นี่คือการ ป้องกัน ชีวิตที่ เลวร้ายยิ่งกว่าการไม่มีอยู่จริง มีคุณค่าทางจริยธรรมสูง – ดูเหมือนจะถูกต้องไหม?

-NUH-

ใช่.

-เอ่อ-

ตอนนี้คุณอยู่ในสถานะที่คุณคิดว่าการป้องกันชีวิตที่ไม่ดีนั้นดี แต่การป้องกันชีวิตที่ดีนั้นเป็นกลาง

แต่สิ่งนี้คือ ทุกครั้งที่ชีวิตเกิดขึ้น มี ความเสี่ยง บางอย่างที่ชีวิตจะเลวร้ายจริงๆ ดังนั้น ถ้าคุณถือว่าเลวว่าเลวและดีเป็นกลาง คุณควรคิดว่าชีวิตในอนาคตแต่ละชีวิตล้วนเป็นสิ่งที่ไม่ดี – มีโอกาสก็แย่ บางโอกาสก็เป็นกลาง ดังนั้นคุณควรต้องการ ลด ชีวิตในอนาคตให้เหลือน้อยที่สุด

หรือในระดับอารยธรรม: บอกว่าถ้ามนุษยชาติยังคงมีอยู่ต่อไป มีโอกาส 99% เราจะมีอารยธรรมจำนวนมหาศาล (อย่างน้อย 10^18 คน) เจริญรุ่งเรือง และโอกาส 1% ที่เราจะจบลงด้วยอารยธรรมที่ใหญ่โตและน่าสยดสยองไม่แพ้กัน โทเปีย และแม้แต่อารยธรรมที่เฟื่องฟูก็ยังมี บาง คนอยู่ในนั้นที่หวังว่าพวกเขาจะไม่มีอยู่จริง เมื่อเผชิญกับความเป็นไปได้นี้ คุณควรหวังว่ามนุษยชาติจะไม่ดำรงอยู่ต่อไป นับแต่นั้นก็จะไม่มี “คนที่หวังว่าพวกเขาจะไม่มีอยู่จริง” คุณควรจะคิดอีกครั้งว่าการสูญพันธุ์เป็นสิ่งที่ดีทางจริยธรรมอย่างยิ่ง

-NUH-

เย้ๆ อย่างที่ฉันพูดไป ฉันไม่คิดอย่างนั้น

-เอ่อ-

ในกรณีนั้น ฉันคิดว่าวิธีที่เป็นธรรมชาติที่สุดในการยุติปัญหานี้ คือการสรุปว่าอารยธรรมที่เจริญรุ่งเรืองขนาดมหึมาน่าจะดีพอที่จะชดเชย – อย่างน้อยบางส่วน – สำหรับความเสี่ยงของโทเปียขนาดมหึมา

นั่นคือ: หากคุณพอใจกับโอกาส 99% ของอารยธรรมที่เฟื่องฟู และโอกาส 1% ของโทเปีย นี่ก็หมายความว่า อารยธรรมที่เฟื่องฟูอย่างน้อย 1% ดีพอๆ กับโทเปียที่ไม่ดี

และ นั่น ก็หมายความว่า “10^18 ชีวิตเฟื่องฟู” อย่างน้อย 1% ดีเท่ากับ “10^18 ชีวิตที่ทุกข์ทรมานอย่างน่าสยดสยอง” นั้นไม่ดี 1% ของ 10^18 นั้นเยอะมากอย่างที่เราได้กล่าวไปแล้ว!

-NUH-

คุณทำให้ฉันรู้สึกสับสนเกี่ยวกับสิ่งที่ฉันคิดเกี่ยวกับหัวข้อนี้อย่างแน่นอน แต่นั่นไม่เหมือนกับการโน้มน้าวใจฉันว่ามันดีที่มีคนมากขึ้น ฉันเห็นว่าการพยายามเป็นกลางเกี่ยวกับขนาดประชากรนำไปสู่ความหมายที่แปลกประหลาดได้อย่างไร แต่ตำแหน่งของคุณก็เช่นกัน

ตัวอย่างเช่น หากคุณคิดว่าการเพิ่มชีวิตมากขึ้นมีคุณค่าทางจริยธรรม คุณก็จะจบลงด้วยสิ่งที่เรียกว่า ข้อสรุปที่น่ารังเกียจ อันที่จริง ข้ามเรื่องนั้นไปและพูดถึง ข้อสรุปที่น่ารังเกียจอย่าง ยิ่ง ฉันจะให้โลกสมมุติของฉันเอง:

• World D มีคนเฟื่องฟู 10^18 คนมีความสุข
• โลก E มีคนที่ทนทุกข์อย่างน่ากลัว 10^18 คน บวกกับจำนวนคน (N) ที่ชีวิตปานกลาง/ดี/”น่าอยู่”แต่ก็ไม่ ดี

ต้องมี “ตัวเลขที่ใหญ่กว่า” บางอย่างที่คุณชอบ World E ถึง World D นั่นเป็นตำแหน่งที่ดูแปลกประหลาดเช่นกัน!

ทฤษฎี X

-เอ่อ-

นั่นเป็นความจริง ไม่มีทางใดที่จะจัดการกับคำถามเช่นนี้ (หรือที่เรียกว่า จริยธรรมของประชากร) ที่รู้สึกพึงพอใจอย่างยิ่งในทุกกรณีเท่าที่จะจินตนาการได้

-NUH-

ที่คุณรู้จัก. แต่อาจมีวิธีบางอย่างที่จะคลี่คลายความสับสนของเราในหัวข้อนี้ ซึ่งทำให้สัญชาตญาณต่อต้านการปฏิเสธ-สรุปไม่เสียหาย และปล่อยให้เหมืองไม่เสียหายด้วย ฉันไม่รู้สึกว่าจำเป็นต้องยอมรับมุมมองที่ดูผิดเพียงเพื่อหลีกเลี่ยงมุมมองอื่น

-เอ่อ-

“วิธีคลายความสับสนของเรา” คือสิ่งที่ Derek Parfit เรียกว่า ทฤษฎี X นักจริยธรรมด้านประชากรได้มองหามันมาระยะหนึ่งแล้ว พวกเขาไม่เพียงแต่ไม่พบมันเท่านั้น พวกเขายังได้สร้าง ทฤษฎีบทความเป็นไปไม่ได้ ขึ้นอย่างมาก ซึ่งบ่งบอกว่าไม่มีอยู่จริง

นั่นคือสัญชาตญาณต่างๆ ที่เราต้องการที่จะยึดมั่น (เช่น “ข้อสรุปที่น่ารังเกียจมากนั้นเป็นเท็จ” และ “การสูญพันธุ์จะไม่ดี” และอื่น ๆ อีกมากมาย) ขัดแย้งกันโดยรวม

ดูเหมือนว่าเราอาจจะต้องเลือก สิ่ง แปลก ๆ ที่จะเชื่อเกี่ยวกับทั้งหมดนี้ว่า “จะดีหรือไม่ที่จะมีคนมากขึ้น” คำถาม. และถ้าเราต้องเลือกบางอย่าง ฉันจะเลือกสิ่งที่เรียกว่า มุมมองโดยรวม ว่ามุมมองที่เราควรเพิ่มผลรวมของความเป็นอยู่ที่ดีของทุกคนให้ได้มากที่สุด คุณอาจนึกถึงสิ่งนี้ราวกับว่า “ผู้รับผลประโยชน์ที่เป็นไปได้” ของเรานั้นรวมถึงทุกคนที่สามารถดำรงอยู่ได้ และการมีอยู่ ⁶ เป็นผลประโยชน์ที่สามารถเอาชนะอันตรายที่สำคัญได้ (มุมมองโดยรวมมีความซับซ้อนมากกว่านี้ แต่มันไม่ใช่จุดสนใจของงานชิ้นนี้)

ฉันคิดว่ามีเหตุผลที่ดีหลายประการในการเลือกแนวทางทั่วไปนี้:

• มันง่าย หากคุณพยายามคิดแนวคิดบางอย่างที่คิดว่าการสูญพันธุ์ของมนุษย์ไม่ใช่สิ่งที่ดีที่สุดหรือแย่ที่สุดเท่าที่จะจินตนาการได้ ทัศนะของคุณน่าจะมีส่วนที่ซับซ้อนและดูเหมือนไม่มีแรงจูงใจทุกรูปแบบ เช่น ความไม่สมดุลระหว่างชีวิตที่ดีและไม่ดี ข้างต้น. แต่แนวคิดเบื้องหลังมุมมองโดยรวมนั้นเรียบง่าย เพียงนับทุกคน (รวมถึงผู้ที่อาจเป็นใครก็ได้) ว่าเป็นบุคคลที่มีความสนใจที่ควรค่าแก่การพิจารณา ความเรียบง่ายเหมาะสมกับเป้าหมายของฉันในการ จัดระบบ จริยธรรม เพื่อให้ระบบของฉันแข็งแกร่งขึ้นและใช้สัญชาตญาณน้อยลง
• เมื่อพิจารณาถึงตัวเลือกต่างๆ สำหรับ “มุมมองแปลก ๆ ที่ควรนำมาใช้” ฉันคิดว่า “ข้อสรุปที่น่ารังเกียจจริงๆ ก็ดี” ค่อนข้างดีเมื่อเทียบกับทางเลือกอื่น เป็นไปได้อย่างยิ่งที่ความเกลียดชังโดยสัญชาตญาณของเรานั้นเกิดจากการไม่สามารถห่อหุ้มสมองของเราไว้รอบ ๆ แง่มุมของ (ก) จำนวนชีวิตที่ “แทบจะไม่คุ้มค่า” จะต้องมากเพียงใด เพื่อให้ได้ข้อสรุปที่น่ารังเกียจมาก งาน; (b) สิ่งที่ทำให้เกิดความสับสนเกี่ยวกับแนวคิดที่ว่า “ทำให้มีคนเพิ่มขึ้นได้” ⁷
• และมันไม่สัญชาตญาณจริงๆเหรอ? ลองนึกภาพคุณได้เรียนรู้ว่ามีคนใช้ความพยายามอย่างมากในการป้องกันการตายจากบรรพบุรุษของคุณเมื่อ 1,000 ปีที่แล้ว และตอนนี้คุณอยู่ที่นี่ในวันนี้ คุณไม่ดีใจที่คุณมีอยู่? คุณไม่คิดว่าการดำรงอยู่ของคุณนับเป็นส่วนหนึ่งของความดีที่บุคคลนั้นทำสำเร็จหรือไม่? (การคิด แบบนี้ในบล็อกโพสต์นี้โดยเพื่อนร่วมงานของฉัน โจ คา ร์ลสมิท) คุณคิดอย่างไรกับความจริงที่ว่า 10^18 คนอาจมีหรือไม่มีตัวตนอยู่จริง ๆ แค่ “ไม่สำคัญว่าสิ่งนี้จะเกิดขึ้นหรือไม่”

-NUH-

บางทีส่วนหนึ่งของสิ่งที่สับสนที่นี่อาจเป็นดังนี้:

• ฉันไม่ แยแส กับชีวิตที่มีความสุขเป็นพิเศษ – พวกมันก็ยังดีกว่าไม่มีอะไรเลย
• แต่ถ้าวิธี เดียว หรือวิธี หลัก ที่ฉันกำลังปรับปรุงโลกคือการปล่อยให้ชีวิตที่มีความสุขเป็นพิเศษมีอยู่จริง นั่นก็ไม่ถูกต้อง
• ดังนั้นชีวิตพิเศษอาจมีความสำคัญจนถึงจุดหนึ่ง และหลังจากนั้นก็มีความสำคัญน้อยกว่า หรือบางทีอาจเป็นความจริงที่ “ชีวิตพิเศษเป็นสิ่งที่ดี” แต่ไม่ใช่ว่า “ชีวิตพิเศษจำนวนมากมีความสำคัญมากกว่าการช่วยเหลือผู้คนที่มีอยู่แล้ว”

-เอ่อ-

แนวทางดังกล่าวจะขัดแย้งกับหลักการสำคัญบางประการของ “จริยธรรมที่มีศูนย์กลางอื่น” ที่กล่าวถึง ก่อนหน้านี้

ก่อนหน้านี้ฉันเคยโต้แย้งว่าเมื่อคุณคิดว่าบางสิ่งถือเป็นผลประโยชน์ ด้วยมูลค่าจำนวน หนึ่ง จำนวนเงินที่ สูงพอจะทำให้ การพิจารณาด้านจริยธรรมอื่นๆ ล้นหลาม ในตัวอย่างที่เราใช้ก่อนหน้านี้ “การช่วยให้ใครบางคนมีวันที่ดีที่ชายหาด” มากพอที่จะสามารถเกินดุล “การช่วยให้ใครบางคนหลีกเลี่ยงความตายที่น่าเศร้า”

-NUH-

อืม.

ถ้านี่คือการสัมมนาปรัชญา ฉันคิดว่าคุณกำลังทำกรณีที่ดีอย่างสมบูรณ์ที่นี่

แต่ความรู้สึกที่ฉันมีในช่วงหัวเลี้ยวหัวต่อนี้ไม่มากนัก “ใช่แล้ว ฉันเห็นว่าชีวิตที่มีศักยภาพเหล่านั้นทั้งหมดมีคุณธรรมที่ดีเพียงใด!” ว่า “ฉันรู้สึกเหมือนถูกหลอก/พูดให้ไม่เห็นทางเลือกอื่น”

ฉันไม่จำเป็นต้อง “เลือกทฤษฎี” ฉันสามารถซูมกลับเข้าไปในภาพใหญ่และพูดว่า “การทำสิ่งต่าง ๆ ที่จะทำให้ผู้คนในอนาคตมีอยู่มากขึ้นไม่ใช่สิ่งที่ฉันสมัครเมื่อฉันตั้งใจจะบริจาคเงินเพื่อทำให้โลกนี้น่าอยู่ขึ้น ไม่ใช่กรณีที่การจัดการกับความอยุติธรรมและความไม่เท่าเทียมในปัจจุบันสามารถเทียบได้กับเป้าหมายนั้น”

ฉันไม่ต้องการแนวทางที่สอดคล้องกันอย่างสมบูรณ์เกี่ยวกับจริยธรรมของประชากร ฉันไม่จำเป็นต้องปฏิบัติตาม “กฎ” เมื่อแจกเงิน ฉันสามารถทำสิ่งต่าง ๆ ที่มีคุณค่าอย่างไม่มีข้อโต้แย้ง เช่น การป้องกันการเสียชีวิตก่อนวัยอันควร และปรับปรุงการศึกษา ฉันสามารถใช้คณิตศาสตร์เพื่อเพิ่มจำนวนสิ่งที่ฉันทำให้ได้มากที่สุด ฉันไม่ต้องการกรอบงานหลักที่เข้ามาในที่แปลก ๆ นี้ ⁸

-เอ่อ-

อีกครั้ง ฉันคิดว่ารายละเอียดกลับไปกลับมาจำนวนมากได้บดบังความจริงที่ว่ามีหลักการง่ายๆ ในการเล่นที่นี่:

• ฉันต้องการให้การให้เป็นประโยชน์แก่ผู้อื่นให้มากที่สุด ฉันต้องการใช้จ่ายเงินของฉันในแบบที่คนอื่นอยากให้ฉันทำ ถ้าพวกเขากำลังคิดเกี่ยวกับมันอย่างยุติธรรม/ไม่ลำเอียง เช่นเดียวกับในการสร้าง “ม่านแห่งความไม่รู้” ถ้านั่นคือสิ่งที่ฉันต้องการ การให้สิ่งนั้นสามารถให้ประโยชน์กับผู้คนจำนวนมากได้โดยทั่วไปแล้วจะดูดีที่สุด (กล่าว ไว้ก่อนหน้านี้ )
• มีคำถามว่าใครนับเป็น “คนอื่น” ที่ฉันจะได้ประโยชน์ คนที่มีศักยภาพที่อาจหรือไม่อาจจบลงด้วยการมีอยู่จริงหรือไม่? ฉันต้องการตำแหน่งนี้ เมื่อฉันปล่อยให้ใครซักคนเข้าสู่วงจรศีลธรรม หากมีพวกเขามากมาย พวกเขาจะเป็นคนที่ฉันกังวล
• ในทางสมดุล ดูเหมือนว่า “ผู้ที่มีศักยภาพที่อาจหรืออาจจะไม่ได้มา” อาจอยู่ในวงจรศีลธรรม นั่นคือ มีโอกาสสูงที่สังคมที่มีจริยธรรมและมีความรู้ความเข้าใจมากขึ้นจะรับรู้สิ่งนี้อย่างไม่มีข้อโต้แย้ง

ฉันอาจจะลงเอยด้วยการทำผิดและทำความดีเป็นศูนย์ คุณก็เช่นกัน ฉันกำลังพยายามอย่างเต็มที่ใน การหลีกเลี่ยงอคติทางศีลธรรมในสมัยของฉัน และมุ่งเน้นการให้ความช่วยเหลือผู้อื่น โดยให้คำจำกัดความอย่างยุติธรรมและกว้างขวาง

สำหรับการอ่านเพิ่มเติมเกี่ยวกับจริยธรรมของประชากร ดูที่:

• Population Axiology – สรุปปัญหา 20 หน้าเกี่ยวกับจริยธรรมของประชากร
• Stanford Encyclopedia of Philosophy on the Repugnant Conclusion – สั้นกว่า กล่าวถึงประเด็นเดียวกันหลายประเด็น
• บทที่ 2 เกี่ยวกับความสำคัญที่ท่วมท้นของการกำหนดอนาคตอันไกล

ปิดความคิด

ฉันรู้สึกเห็นใจอย่างมากสำหรับตำแหน่งปิดของ ทั้ง UH และ NUH

ที่จริงแล้วฉันคิดว่าบางอย่างเช่นมุมมองของ UH ทำให้ฉันได้ผลลัพธ์ที่ดีที่สุดสำหรับจริยธรรมที่ “มีศูนย์กลางอื่น” และ “พิสูจน์ได้ในอนาคต” แต่เมื่อฉันไตร่ตรองข้อโต้แย้งเหล่านี้ ฉันก็ถูกบังคับโดยความเห็นที่ผิดปกติของ UH มากขึ้นพร้อมๆ กัน และมั่นใจ น้อยลง ว่าการติดตามจริยธรรมที่ “มีศูนย์กลางอื่น” หรือ “พิสูจน์ได้ในอนาคต” นั้นสำคัญมาก เมื่อถึงจุดหนึ่งในอนาคต ฉันจะเถียงว่าอุดมคติเหล่านี้คงไม่สามารถบรรลุได้อยู่ดี ซึ่งทำให้ความมุ่งมั่นของฉันที่มีต่ออุดมคติลดลง

ในท้ายที่สุด หากเราใส่สิ่งนี้ไว้ในกรอบของ “ตัดสินใจว่าจะใช้เงิน 1 พันล้านดอลลาร์อย่างไร” การโต้แย้งในส่วนนี้และก่อนหน้านี้จะกระตุ้นให้ฉันใช้จ่าย ส่วน หนึ่งในการกำหนดเป้าหมายการลดความเสี่ยงที่มีอยู่ – แต่อาจไม่ใช่ส่วนใหญ่ (ถ้าเป็น อาร์กิวเมนต์เดียวสำหรับการกำหนดเป้าหมายการลดความเสี่ยงอัตถิภาวนิยม ซึ่งฉันคิดว่าไม่ใช่) ฉันพบว่า UH น่าสนใจ แต่ไม่เชื่อทั้งหมด

อย่างไรก็ตาม มีเหตุผลที่แตกต่างกันสำหรับการมุ่งเน้นไปที่สาเหตุ เช่น การลดความเสี่ยงของ AI ซึ่งไม่ต้องการมุมมองที่ผิดปกติเกี่ยวกับจริยธรรมของประชากร นั่นเป็นกรณีที่ฉันได้นำเสนอในซีรีส์ ที่สำคัญที่สุดของศตวรรษ และฉันพบว่ามันน่าสนใจยิ่งขึ้น

แสดงความคิดเห็น/อภิปราย

---

เชิงอรรถ

ฉันสนใจในมุมมองของผู้อ่านในสิ่งที่ฉันควรทำมากขึ้นในบล็อกนี้ โดยทั่วไป ฉันจะเขียนในสิ่งที่ฉันรู้สึกอยากเขียน แม้ว่าผู้ฟังของฉันจะขอน้อยกว่านี้ แต่การรู้ว่าผู้ฟังของฉันต้องการอะไรจะมีผลกับสิ่งที่ฉันรู้สึกอยากเขียน

หากคุณพร้อมที่จะชั่งน้ำหนักในเรื่องนี้ ฉันขอขอบคุณ! โปรดใช้ แบบฟอร์ม Google นี้ นอกจากนี้ยังมีคำถามพื้นฐานเกี่ยวกับผู้อ่านของฉันที่ฉันสนใจในคำตอบ (คำถามทั้งหมดเป็นตัวเลือก)

เวลาโดยประมาณ: 10 นาที

ทำแบบสำรวจ!