มันเป็นเย็นวันอาทิตย์ มีหลายสิ่งหลายอย่างที่ต้องบอกว่าเป็นพ่อที่อยู่บ้าน และจริงๆ แล้วฉันชอบมีของหลายอย่าง เช่น เตรียมอาหารและซักผ้า หลังจากใช้ชีวิต “All Unix Network Security, All The Time” มามากกว่า 35 ปี
แต่ฉันไม่ชอบที่จะต้องเขียนโพสต์นี้ อย่างน้อยฉันต้องนำเสื้อผ้าไปใส่ในเครื่องล้างจานและเตรียมอาหารเพื่อให้คู่หูของฉันสามารถเริ่มต้น 9 ต่อ 5 ได้ — แม่นยำยิ่งขึ้น ทางออนไลน์ -7:30 น. ถึง 6 น . — พรุ่งนี้โดยไม่ต้องยุ่งยากในขณะที่ฉันเตรียมอาหารเช้าสำหรับทุกคน และเริ่มต้นวันใหม่ที่เต็มไปด้วย Hey Duggee, Bluey, Teletubbies และการเปลี่ยนแปลงอื่น ๆ ที่สร้างวัฒนธรรม-ผลประโยชน์-ระหว่าง-ผ้าอ้อม-การเปลี่ยนแปลงสำหรับลูกสาว 13mo ที่รุ่งโรจน์ของฉัน
แต่ฉันก็ไม่อยากเขียนเรื่องนี้เช่นกัน เพราะหัวข้อของโพสต์นี้คือคอรี ผู้ซึ่งเขียนบางสิ่งที่ไม่เหมาะสมและเข้าใจผิดอย่างผิดปกติ ฉันเป็นหนี้เล็กน้อยให้กับ Cory ไม่เพียงแต่สำหรับการทำงานพร้อมกันอย่างคลุมเครือให้กับ Open Rights Group เท่านั้น แต่ยัง ช่วยตกตะกอนความคิดของฉัน เมื่อหลายปีก่อนว่าถ้าฉันมีโอกาส – ดูเหมือนไม่น่าจะเป็นไปได้ในเวลานั้น – ฉันจะทำ ลาออกจากงานเพื่อเลี้ยงดูครอบครัว และ สร้างผลกระทบต่อโลกต่อไปในช่วงเวลานอกนั้น มากกว่าที่เพื่อนของฉันส่วนใหญ่เคยเป็น: หวังว่าพวกเขาจะมีเวลาอยู่กับลูกๆ มากขึ้น
ดังนั้นฉันจึงไม่อยากเขียนเรื่องนี้ แต่ฉันต้องเขียนเพราะบล็อกโพสต์ของเขาสะท้อนถึงรูปแบบของพฤติกรรมในส่วนของคอรี
เรื่องสั้นโดยย่อ: Cory ต้องการให้เนื้อหาแพลตฟอร์มเทคโนโลยีของ Facebook และการดูแลชุมชน เปิดกว้างมากขึ้น ถูกนำไปในเวลากลางวัน เพื่อให้ทุกคนเห็นว่ามันทำงานอย่างไร เพราะ… ก็เพราะว่า Cory ไม่เคยพูดถึง “x ดังนั้น y อย่างแน่นอน” ” เหตุผลเท่าที่ฉันเห็น (?) นอกเหนือจากการชี้ให้เห็นว่าการปิดบัญชีของคุณโดยไม่มีคำอธิบายที่ชัดเจนนั้นเป็นความเจ็บปวดในตูดและเพื่อเปรียบเทียบว่าจำนวนความลับใด ๆ ในการกลั่นกรองเนื้อหาคือ “ความปลอดภัยผ่านความมืดมน ” — ซึ่งผู้ปฏิบัติงานด้านอินโฟเซคทุกคนรู้ว่าเป็น “สิ่งเลวร้าย”
ยกเว้นแต่ว่าไม่ใช่ – ไม่ใช่เลย – การเปรียบเทียบที่ยุติธรรม แต่เราจะมาถึงเรื่องนั้น
บล็อกโพสต์ของคอรีจบลงอย่างกะทันหัน ราวกับถูกแขวนทิ้งไว้โดยรู้ตัวทันใด ฉันไม่รู้ว่าทำไมหรือมันคืออะไร แต่การปล่อยให้วาทกรรมค้างอยู่อาจทำให้ผู้อ่านเข้าใจผิดได้ เว้นแต่พวกเขาจะสนใจที่จะเจาะลึกลงไปอีก มีบางเรื่องที่ฉันอยากจะแก้ไขเป็นพิเศษ เพราะเคยทำงานที่ Facebook ฉันเข้าใจว่าสิ่งนี้ได้ผลจริง ๆ ยังไง ดูเหมือนฉันจะทำมากกว่า Cory และการแสดงความรู้สึกผิด ๆ ที่ลอยไปมาในขณะนี้ เป็นอันตรายต่อดิจิทัลจริงๆ สิทธิ:
https://transparency.fb.com/en-gb/policies/community-standards/hate-speech/ 
https://transparency.fb.com/en-gb/policies/community-standards/hate-speech/
หลักการของซานตาคลารา?
Cory พิมพ์ว่า:
นั่นเป็นเหตุผลที่บริษัทต่างๆ อย่าง Facebook เก็บกฎที่ใช้กับการดูแลชุมชนและเครื่องมือที่พวกเขาใช้เพื่อตรวจจับการละเมิดกฎเหล่านั้นโดยอัตโนมัติเป็นความลับ
ครึ่งแรกนี้ไม่ถูกต้องอย่างแน่นอน Facebook เขียนยาวเป็นพิเศษ – เห็นได้ชัดว่ารวมถึงเวอร์ชันประวัติศาสตร์ – เกี่ยวกับกิจกรรมที่จะส่งผลให้คุณถูกไล่ออกจาก Facebook
ครึ่งหลังของสิ่งนี้ตกลงไปในย่อหน้าถัดไป:
พวกเขายืนยันว่าการเปิดเผยนโยบายและกลไกการบังคับใช้จะช่วยผู้ไม่หวังดีที่ต้องการล่วงละเมิด ฉ้อโกง หรือแอบอ้างเป็นผู้ใช้ของตน และอัปโหลดเนื้อหาต้องห้าม ตั้งแต่การบิดเบือนข้อมูลไปจนถึงข้อมูลที่ผิด ตั้งแต่เนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็ก ไปจนถึงการละเมิดลิขสิทธิ์ ไปจนถึงวิดีโอการก่อการร้าย
ใช่ และการวิเคราะห์ของ Facebook นั้นถูกต้อง และคำวิจารณ์ของ Cory ( “แต่ยักษ์ใหญ่ด้านเทคโนโลยีคนเดียวกัน… ใช้และปกป้องความปลอดภัยเป็นประจำผ่านความมืดมิดเป็นวิธีเดียวที่จะรักษาโปรแกรมการควบคุมเนื้อหาของตนได้” ) มีความแม่นยำใน ทางเทคนิค แต่การทำงานไม่ถูกต้องเพราะ :
“ความไม่สมมาตรของข้อมูล” ไม่เหมือนกับ “ความปลอดภัยผ่านความมืดมน”
ปัญหาเกี่ยวกับ Security Through Obscurity คือ (ใช่) ที่มันเอาชนะได้ง่าย ตัวอย่างทั่วไปคือ “มีกุญแจสำรองสำหรับบ้าน เก็บไว้ใต้พรมเช็ดเท้า” กล่าวคือ มีเคล็ดลับง่ายๆ ที่ขจัดกลไกการรักษาความปลอดภัยทั้งหมดสำหรับสิ่งที่ได้รับการปกป้อง
แต่ความไม่สมดุลของข้อมูล (IA) นั้นไม่เหมือนกับ STO และเป็นพื้นฐานของความปลอดภัยของข้อมูล — หรือ Infosec เนื่องจากเราอยู่ในดินแดนแห่งคำศัพท์เซ็กซี่
- IA รู้รหัสผ่านที่แฮชไปที่
"opbHC1Tv.ZsH."แต่แฮ็กเกอร์ไม่ทำ - IAรู้ว่าหมายเลขใดอยู่บนหน้าจอเครื่องยืนยันตัวตน TOTP ของคุณ แต่แฮ็กเกอร์ไม่ทำ
- IA รู้ว่าคู่ต่อสู้โป๊กเกอร์ของคุณสะดุ้ง เมื่อได้รับไพ่ที่ไม่ดี
- STO คือ ทุกระบบในโลกที่มีรหัสผ่านลับๆ คาถาเวทมนตร์เหมือนกัน
- STO คาดหวังว่าจะ ไม่มีใครมารบกวนวิศวกรรมย้อนกลับ API ของคุณ
แต่เมื่อคุณอยู่ในดินแดนแห่ง (เช่น) การต่อต้านการล่วงละเมิด คุณไม่ได้อยู่ในโลกแห่งความจริงแบบเลขฐานสองที่ ใช่หรือไม่ใช่ คุณอยู่ ในโลกแห่งสัญญาณรวมแทน:
- IA รู้ว่านักส่งสแปมชาวรัสเซียใช้ ไคลเอนต์ Curl ที่มีลายนิ้วมือ TLS เฉพาะ
- IA รู้ว่าฟาร์มโทรลล์พยายามลดข้อผิดพลาดทางไวยากรณ์โดย (ตรวจพบได้) โพสต์ บทความวิกิพีเดียขายส่งเป็นเนื้อหาการสนทนา
- IA รู้ดีว่าการบีบอัดไลบรารีรูปภาพมีนัยยะอะไรว่าการโพสต์ไม่ได้ส่งมาจากไคลเอนต์แพลตฟอร์ม “อย่างเป็นทางการ” แต่มาจากบอทฟาร์มแบบกำหนดเอง
ใช่แล้ว “การเปิดเผย… กลไกการบังคับใช้ [อย่างแน่นอน] จะ ช่วยผู้ไม่หวังดีที่ต้องการล่วงละเมิด ฉ้อโกง หรือแอบอ้างเป็นผู้ใช้ของพวกเขา และอัปโหลดเนื้อหาต้องห้าม ตั้งแต่การบิดเบือนข้อมูลไปจนถึงข้อมูลที่ผิด จากเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็ก ไปจนถึงการละเมิดลิขสิทธิ์ ไปจนถึงวิดีโอการก่อการร้าย” , คอรี.
และคุณต้องการหยุดสิ่งนั้นหรือไม่?
คอรีอีกครั้ง:
นี่เป็นโหมดความล้มเหลวเดียวกันของการรักษาความปลอดภัยผ่านความสับสนทั้งหมด ความลับหมายความว่าคนร้ายเป็นองคมนตรีต่อความบกพร่องในระบบ ในขณะที่คนที่ระบบเหล่านั้นควรจะป้องกันอยู่ในความมืด และสามารถมีการป้องกันเป็นอาวุธสำหรับพวกเขา
โอเค ฉันอาจจะเข้าใจ บางทีเป้าหมายของคอรีคือ “วิวัฒนาการแบบเร่งความเร็ว” ซึ่งถ้าเราบังคับให้แพลตฟอร์มเทคโนโลยีขนาดใหญ่เปิดเผยว่าพวกเขากำลังตรวจจับสแปมอย่างไร เหยื่อผู้บริสุทธิ์ที่ถูกปิดบัญชีจะได้รับความโปร่งใส และผลลัพธ์ของ “ตัวแสดงที่ไม่ดี” ทั้งหมดก็ได้รับ การส่งผ่านฟรีเพื่อยกระดับเกมของพวกเขา / ดีขึ้นโดยไม่ถูกจับจะต้องใช้ Facebook (และคณะ) เพื่อหาวิธี “แก้ไข” การละเมิดทันทีและสำหรับทั้งหมด
ไม่น่าเศร้าเลย นี่เป็นความคิดที่ แย่มาก หากมีสิ่งใดที่จะบังคับให้รัฐบาลทั่วโลกเริ่มเรียกร้องบัตรประจำตัวดิจิทัลหรือการรักษาอื่น ๆ ที่เลวร้ายยิ่งกว่าโรคก็เป็นนี่ เราไม่ควรแม้แต่จะไปที่นั่น
ดังนั้น: Facebook (เพื่อระบุชื่อ) ไม่ ได้ เก็บกฎเกณฑ์ของตนไว้เป็นความลับ และ (และชุมชนแพลตฟอร์มที่เหลือ) นั้น ถูกต้อง และน่าจะ ฉลาดพอ ที่จะไม่ใส่ใจว่าจะพยายามตอบสนองต่อการเปลี่ยนแปลงที่เปลี่ยนแปลงไปในแต่ละวันอย่างไร พฤติกรรม “บอก” เกี่ยวกับสแปมและการละเมิด
ใช่ มันเป็นความเจ็บปวดที่ผู้กระทำทารุณกรรมสามารถอนุมานกฎ (ปัจจุบัน) ได้ดีพอที่จะรู้ว่าหากพวกเขาหยุด เพียง สั้น ๆ จากการอ้างถึงสมาชิกของชนกลุ่มน้อยที่ถูกกดขี่ว่า [บางคำพูดที่มีอยู่ก่อนแล้ว] พวกเขาก็สามารถได้รับการยกเว้นโทษได้ในระดับหนึ่ง — ดูเหมือนว่าจะเป็นสิ่งที่ Cory นำเสนอว่าเป็น “กุญแจสำคัญใต้พรมเช็ดเท้า” ของการป้องกันการละเมิด
อย่างไรก็ตาม ที่ จริงแล้ว นี่เป็นข้อโต้แย้งสำหรับการกลั่นกรองที่ละเอียดกว่า มีทรัพยากรที่ดีกว่า และ (ตามอุดมคติ) แบบบูรณาการโดยชุมชน ดังนั้นชุมชนเองจึงสามารถตำรวจตรวจสอบสมาชิกภาพของตนเองได้ โดยสังเกตว่าแน่นอนว่าจะอนุญาตให้ (เช่น) ซูเปอร์มาซิสต์ผิวขาวป้องกันตนเองจาก ความคิดที่เป็นอันตรายและเป็นอันตราย เช่น ลัทธิเสรีนิยม ความเสมอภาค และความเสมอภาค
แต่ตรงกันข้าม – การควบคุมจากบนลงล่างที่ “สมบูรณ์แบบ” – จะแย่กว่านั้น
ดังนั้น: บล็อกโพสต์ของ Cory นั้นไม่มีมูล แต่บางทีเขาอาจมีประเด็นที่แพลตฟอร์มอย่างน้อยควรจะแบ่งปันโป๊กเกอร์ต่อต้านการละเมิดเหล่านี้ “บอก” อย่างโปร่งใสมากขึ้นระหว่างพวกเขาและกันและกัน เพื่อป้องกันการละเมิดร่วมกันได้ดียิ่งขึ้น?
ยิ่งเราเริ่มถือว่าอาการโคโมเป็น infosec เร็วเท่าไหร่ ก็ยิ่งดีเท่านั้น ขั้นตอนแรกที่ดีคือการนำ หลักการของซานตาคลารา มาใช้ ซึ่งเป็นเอกสารของผู้มีส่วนได้ส่วนเสียหลายฝ่ายซึ่งกำหนดโปรแกรมสำหรับการกลั่นกรองที่รับผิดชอบและโปร่งใส
แพลตฟอร์มขนาดใหญ่มีการประชุมเกี่ยวกับการแบ่งปันข้อมูลทั่วไป และบางครั้งมีรายละเอียด เทคนิคของกลไกการป้องกันการละเมิดซึ่งกันและกัน เช่น ในการ ประชุม At Scale ที่ ได้รับการสนับสนุนจาก Facebook อย่างมาก โดยมีเพลงเกี่ยวกับ “Spam Fighting” และ “Fighting Abuse” (ค้นหาวิดีโอ คุ้มค่ากับความพยายาม) และแน่นอนว่ามี งานสัมมนา “Enigma” ของ USENIX ซึ่งครอบคลุมเนื้อหาที่ ดีที่สุด -งานดีที่สุด ในพื้นที่นี้
ดังนั้นเมื่อคอรีเชื่อมโยงและเรียกร้องให้ยอมรับหลักการของซานตาคลารา ฉันก็แบบ… “อะไรนะ” เพราะ:
ในปี 2018 ควบคู่ไปกับการประชุม Content Moderation at Scale
… เดี๋ยวก่อน เราไม่เคยเห็นชื่อนั้นที่ไหนมาก่อน? …
ในปี 2018 ควบคู่ไปกับการประชุม Content Moderation at Scale ในสหรัฐอเมริกา กลุ่มองค์กรสิทธิมนุษยชน ผู้สนับสนุน และผู้เชี่ยวชาญทางวิชาการได้พัฒนาและเปิดตัวชุดหลักการสามประการเพื่อให้ได้มาซึ่งความโปร่งใสและความรับผิดชอบที่มีความหมายรอบ ๆ แพลตฟอร์มอินเทอร์เน็ตที่ก้าวร้าวมากขึ้น การกลั่นกรองเนื้อหาที่ผู้ใช้สร้างขึ้น
[…ลบ…]
ตั้งแต่ปี 2018 บริษัทใหญ่ 12 แห่ง ซึ่งรวมถึง Apple, Facebook (Meta), Google, Reddit, Twitter และ Github ได้ รับรอง หลักการของซานตาคลารา และจำนวนบริษัทโดยรวมที่ให้ความโปร่งใสและการป้องกันตามขั้นตอนเพิ่มขึ้น เช่นเดียวกับระดับของความโปร่งใส และมาตรการป้องกันโดยบริษัทที่ใหญ่ที่สุดหลายแห่ง
[…ลบ…]
ด้วยเหตุผลเหล่านี้ กลุ่มพันธมิตรขององค์กร ผู้สนับสนุน และผู้เชี่ยวชาญด้านวิชาการจึงทำงานร่วมกันในปี 2020 และ 2021 เพื่อ พัฒนาหลักการซานตาคลาราซ้ำ 2 …
โอ้และ นั่น อธิบายทุกอย่าง เราได้หายไปจากรายการตรวจสอบเวอร์ชัน 1 ปี 2018 ของ “สิ่งที่บริษัทต้องทำเพื่อความยุติธรรมต่อผู้ใช้” ไปเป็นเอกสาร “สิทธิมนุษยชนพร้อมหลักการออกแบบ” เวอร์ชัน 2 ปี 2021 ที่ขยายออกไปมาก และบล็อกโพสต์นี้คือ Cory (และบางทีโดยการขยาย EFF ทั้งหมด) คิดว่าวิธีที่ดีที่สุดในการรับแพลตฟอร์มเพื่อนำเอกสารเวอร์ชันใหม่มาใช้คือการทำให้ผู้คนไม่พอใจเกี่ยวกับเรื่องนี้ราวกับว่าเอกสารไม่ได้ออกมาจาก ชุมชนแพลตฟอร์มในสถานที่แรก?
ฉันไม่ได้บอกว่าเอกสารเวอร์ชันใหม่ไม่ดี — มีค่อนข้างมากใน v2 ซึ่งเป็นวิวัฒนาการที่สมเหตุสมผลและเป็นสัดส่วนของเอกสาร v1 แม้ว่าส่วนใหม่บางส่วนจะหนักหน่วงและได้รับการออกแบบมาอย่างชัดเจนเพื่อผลประโยชน์ของข้อมูลภาคประชาสังคม นักวิทยาศาสตร์ที่ต้องการวัสดุที่พวกเขาสามารถเฆี่ยน ตีแพลตฟอร์มทุนนิยมที่ชั่วร้าย เพื่อปรับเงินเดือนของพวกเขา:
- จำนวนครั้งที่มีการดูโพสต์ก่อนที่จะถูกลบ ผู้มีส่วนได้ส่วนเสียเน้นว่าจำนวนการดูโพสต์ที่ได้รับก่อนที่จะถูกลบหรือการเผยแพร่ต่อสาธารณะนั้นมีความสำคัญต่อการทำความเข้าใจผลกระทบของเนื้อหาก่อนที่จะถูกลบ
- ไทม์ไลน์สำหรับการลบเนื้อหา ซึ่งรวมถึงข้อมูลเกี่ยวกับ:
- เวลาระหว่างการเผยแพร่โพสต์และเมื่อถูกลบออก
- เวลาก่อนที่โพสต์ที่ถูกลบอย่างผิดพลาดจะถูกกู้คืน (ไม่ว่าจะเป็นผลมาจากการอุทธรณ์หรือเป็นผลมาจากการระบุข้อผิดพลาดในเชิงรุกโดยบริษัท)
- เวลาระหว่างการตั้งค่าสถานะผู้ใช้และการตอบสนองจากแพลตฟอร์ม
- เวลาสำหรับชิ้นส่วนของเนื้อหาที่จะระบุโดยเครื่องมืออัตโนมัติหรือบริษัทแล้วลบออก
- ถึงเวลาที่เนื้อหาบางส่วนจะถูกตั้งค่าสถานะไปยังบริษัทและนำออกโดยเครื่องมืออัตโนมัติ
นี่คือ ข้อมูลที่ขอสำหรับการลบออกแต่ละรายการ ต้องมีข้อมูลเหล่านี้หลายล้านรายการต่อปี และหากไม่มีความเสี่ยงจากการยืนยันทางนิติเวชซ้ำของโพสต์บางส่วนจากข้อมูลนี้จะก่อให้เกิดความกังวลต่อความเป็นส่วนตัวของผู้เขียน ไม่ต้องพูดถึงวิธีการจัดการกับการกระทำย้อนหลังที่รายงานในวันนี้ทำให้เกิดการลบเนื้อหาที่โพสต์เมื่อหลายวันก่อนหรือไม่? ด้วยข้อมูลจำนวนมากนี้ บริบทจำนวนมากขึ้นซึ่งจะไม่มีวันพร้อมใช้งาน บัณฑิตที่ตามมาและความคิดเห็นตามนี้จะเป็นการบิดเบือนความจริงหรือน่าสงสัยอย่างดีที่สุด
แต่ฉันพูดนอกเรื่องเพราะการวิเคราะห์เล็กน้อยนี้ไม่มีสาระสำคัญสำหรับการวิจารณ์บล็อกโพสต์ของคอรี แทนฉันจะสรุป:
- ความเฉยเมยเกี่ยวกับวิธีการทำงานของการป้องกันการละเมิด ไม่ใช่การรักษาความปลอดภัยด้วยความสับสน
- ความลังเลใจ บางอย่าง เกี่ยวกับวิธีการทำงานของการป้องกันการละเมิด ช่วยรักษาคุณค่าของกลไกเหล่านั้น
- แพลตฟอร์ม โดยเฉพาะอย่างยิ่ง Cory’s bête noire โดยทั่วไปแล้วเขียนยาวมากเกี่ยวกับวิธีที่พวกเขาตัดสินเนื้อหาที่ไม่เหมาะสม…
- …และถ้ามีอะไร พวกเขาเสี่ยงที่จะถูกวิพากษ์วิจารณ์ว่าใช้คำฟุ่มเฟือยเกินไป
- การเผยแพร่รายละเอียดทั้งหมดเกี่ยวกับวิธีที่แพลตฟอร์มตรวจพบเนื้อหาที่ไม่เหมาะสมจะนำไปสู่วิกฤตของการ ละเมิด ซึ่งจะนำไปสู่ความต้องการ “การปราบปราม” ที่ไม่ตั้งใจและการแสวงหาการควบคุมอินเทอร์เน็ตของรัฐ บัตรประจำตัวดิจิทัล ฯลฯ เพื่อ “ป้องกัน” เดียวกัน
- ไม่ต้องพูดถึง: วิธีการเปลี่ยนจากสัปดาห์เป็นสัปดาห์ ถูกปรับเปลี่ยนจากสัปดาห์ต่อสัปดาห์ เนื่องจากผู้คนมีส่วนร่วมในทุกระดับ การเปรียบเทียบกับโป๊กเกอร์นั้นไม่ถูกต้อง แต่เอกสาร v2 ดูเหมือนจะไม่ยอมรับว่าการต่อต้านการละเมิดเป็นการแสวงหาแบบไดนามิกและหลากหลาย
- พยายามทำให้คนโกรธที่ทำให้พวกเขาเอาชนะแพลตฟอร์ม / บังคับให้แพลตฟอร์มใช้ v2 ของสิ่งที่พวกเขาเกี่ยวข้องกับการเขียนในตำแหน่งที่หนึ่ง (และที่สอง) ไม่ใช่กลยุทธ์ที่ยุติธรรมหรือเป็นกุศลอย่างยิ่ง
ฉันต้องการเห็นดีขึ้นในการอภิปรายสาธารณะ
…
