Mary Ellen Zurko จำความรู้สึกผิดหวังได้ ไม่นานหลังจากสำเร็จการศึกษาระดับปริญญาตรีจาก MIT เธอทำงานแรกในการประเมินระบบคอมพิวเตอร์ที่ปลอดภัยสำหรับรัฐบาลสหรัฐฯ เป้าหมายคือการพิจารณาว่าระบบสอดคล้องกับ “Orange Book” ซึ่งเป็นคู่มือที่เชื่อถือได้ของรัฐบาลเกี่ยวกับความปลอดภัยทางไซเบอร์ในขณะนั้นหรือไม่ ระบบมีความปลอดภัยทางเทคนิคหรือไม่? ใช่. ในทางปฏิบัติ? ไม่เท่าไร.
“ไม่มีความกังวลใดๆ ว่าความต้องการด้านความปลอดภัยของผู้ใช้ปลายทางนั้นเป็นจริงหรือไม่” Zurko กล่าว “แนวคิดของระบบความปลอดภัยเป็นเรื่องเกี่ยวกับเทคโนโลยี และถือว่ามนุษย์สมบูรณ์แบบและเชื่อฟัง”
ความไม่สบายใจนั้นเริ่มต้นเธอในเส้นทางที่จะกำหนดอาชีพของ Zurko ในปี 1996 หลังจากกลับมาที่ MIT เพื่อศึกษาระดับปริญญาโทด้านวิทยาการคอมพิวเตอร์ เธอได้ตีพิมพ์บทความที่ทรงอิทธิพลซึ่งแนะนำคำว่า “การรักษาความปลอดภัยที่เน้นผู้ใช้เป็นศูนย์กลาง” มันเติบโตเป็นสาขาของตัวเอง โดยเกี่ยวข้องกับการทำให้แน่ใจว่าความปลอดภัยในโลกไซเบอร์นั้นสมดุลกับการใช้งาน มิฉะนั้น มนุษย์อาจหลีกเลี่ยงโปรโตคอลความปลอดภัยและเปิดโอกาสให้ผู้โจมตีเข้ามา บทเรียนจากการรักษาความปลอดภัยที่ใช้งานได้ตอนนี้รอบตัวเรา ซึ่งส่งผลต่อการออกแบบคำเตือนฟิชชิ่งเมื่อเราเยี่ยมชมไซต์ที่ไม่ปลอดภัยหรือการประดิษฐ์แถบ “ความแข็งแกร่ง” เมื่อเราพิมพ์รหัสผ่านที่ต้องการ
ปัจจุบันเป็นนักวิจัยด้านความปลอดภัยทางไซเบอร์ที่MIT Lincoln Laboratory Zurko ยังคงผูกติดอยู่กับความสัมพันธ์ของมนุษย์กับคอมพิวเตอร์ ความสนใจของเธอได้เปลี่ยนไปสู่เทคโนโลยีเพื่อตอบโต้การดำเนินงานที่มีอิทธิพล หรือความพยายามของปฏิปักษ์จากต่างประเทศในการเผยแพร่ข้อมูลเท็จ (บิดเบือน) บนโซเชียลมีเดียโดยเจตนาโดยมีเจตนาที่จะทำลายอุดมคติของสหรัฐฯ
ใน บทบรรณาธิการล่าสุดที่ ตีพิมพ์ใน IEEE Security & Privacyนั้น Zurko ให้เหตุผลว่า “ปัญหาของมนุษย์” จำนวนมากในฟิลด์ความปลอดภัยที่ใช้งานได้ มีความคล้ายคลึงกับปัญหาของการแก้ปัญหาการบิดเบือนข้อมูล ในระดับหนึ่ง เธอกำลังเผชิญกับภารกิจที่คล้ายคลึงกันในอาชีพการงานช่วงแรกของเธอ นั่นคือ การโน้มน้าวให้เพื่อนร่วมงานเชื่อว่าปัญหาของมนุษย์ดังกล่าวเป็นปัญหาด้านความปลอดภัยทางไซเบอร์ด้วย
“ในการรักษาความปลอดภัยทางไซเบอร์ ผู้โจมตีใช้มนุษย์เป็นวิธีหนึ่งในการทำลายระบบทางเทคนิค การรณรงค์บิดเบือนข้อมูลมีขึ้นเพื่อส่งผลกระทบต่อการตัดสินใจของมนุษย์ เป็นการใช้เทคโนโลยีไซเบอร์ขั้นสูงสุดเพื่อล้มล้างมนุษย์” เธอกล่าว “ทั้งใช้เทคโนโลยีคอมพิวเตอร์และมนุษย์เพื่อบรรลุเป้าหมาย เป็นเพียงเป้าหมายที่แตกต่าง”
ก้าวไปข้างหน้าของการดำเนินงานที่มีอิทธิพล
การวิจัยในการต่อต้านการดำเนินการที่มีอิทธิพลทางออนไลน์ยังเด็กอยู่ เมื่อสามปีที่แล้ว ห้องปฏิบัติการลินคอล์นได้เริ่มการศึกษาในหัวข้อนี้เพื่อทำความเข้าใจถึงผลกระทบต่อความมั่นคงของชาติ ตั้งแต่นั้นเป็นต้นมา พื้นที่ดังกล่าวก็ขยายตัวขึ้น โดยเฉพาะอย่างยิ่งนับตั้งแต่มีการแพร่กระจายของการเรียกร้องค่าเสียหายจาก Covid-19 ทางออนไลน์ที่ก่อให้เกิดความเข้าใจผิด โดยจีนและรัสเซียในบางกรณีพบว่ามีการศึกษา RAND ฉบับ หนึ่ง ขณะนี้มีการระดมทุนโดยเฉพาะผ่านทางสำนักงานเทคโนโลยี ของห้องปฏิบัติการ เพื่อพัฒนามาตรการตอบโต้การดำเนินงานที่มีอิทธิพล
“สิ่งสำคัญสำหรับเราคือการเสริมสร้างประชาธิปไตยของเรา และทำให้พลเมืองของเราทุกคนมีความยืดหยุ่นต่อการรณรงค์บิดเบือนข้อมูลที่มุ่งเป้าไปที่พวกเขาโดยฝ่ายตรงข้ามระหว่างประเทศ ที่พยายามขัดขวางกระบวนการภายในของเรา” Zurko กล่าว
เช่นเดียวกับการโจมตีทางไซเบอร์ การดำเนินการที่มีอิทธิพลมักจะดำเนินไปตามเส้นทางหลายขั้นตอน ที่เรียกว่า kill chain เพื่อใช้ประโยชน์จากจุดอ่อนที่คาดเดาได้ การศึกษาและเสริมความแข็งแกร่งให้กับจุดอ่อนเหล่านั้นสามารถทำงานในการต่อสู้ที่มีอิทธิพลเช่นเดียวกับที่พวกเขาทำในการป้องกันทางไซเบอร์ ความพยายามของ Lincoln Laboratory อยู่ในการพัฒนาเทคโนโลยีเพื่อสนับสนุน “การหาแหล่งที่มา” หรือเสริมความแข็งแกร่งในระยะเริ่มต้นในห่วงโซ่การฆ่า เมื่อคู่ต่อสู้เริ่มหาโอกาสในการเล่าเรื่องที่สร้างความแตกแยกหรือทำให้เข้าใจผิด และสร้างบัญชีเพื่อขยายขอบเขต การดูแลแหล่งที่มาช่วยให้เจ้าหน้าที่ปฏิบัติการข้อมูลของสหรัฐอเมริกาทราบถึงแคมเปญบิดเบือนข้อมูลการผลิตเบียร์
สองแนวทางในห้องปฏิบัติการมุ่งเป้าไปที่การดูแลแหล่งที่มา แนวทางหนึ่งคือการใช้ประโยชน์จากแมชชีนเลิร์นนิงเพื่อศึกษาตัวตนดิจิทัล โดยมีจุดประสงค์เพื่อระบุว่าเมื่อใดที่บุคคลเดียวกันอยู่เบื้องหลังบัญชีที่เป็นอันตรายหลายบัญชี อีกพื้นที่หนึ่งกำลังมุ่งเน้นไปที่การสร้างแบบจำลองการคำนวณที่สามารถระบุ Deepfakes หรือวิดีโอและภาพถ่ายที่สร้างโดย AI ซึ่งสร้างขึ้นเพื่อหลอกลวงผู้ชม นักวิจัยกำลังพัฒนาเครื่องมือเพื่อระบุโดยอัตโนมัติว่าบัญชีใดมีอิทธิพลต่อการเล่าเรื่องมากที่สุด ขั้นแรก เครื่องมือระบุคำบรรยาย ( ในกระดาษแผ่นเดียวนักวิจัยได้ศึกษาการรณรงค์บิดเบือนข้อมูลต่อผู้สมัครชิงตำแหน่งประธานาธิบดีฝรั่งเศส เอ็มมานูเอล มาครง) และรวบรวมข้อมูลที่เกี่ยวข้องกับการเล่าเรื่องนั้น เช่น คีย์เวิร์ด รีทวีต และสิ่งที่ชอบ จากนั้นพวกเขาใช้เทคนิคการวิเคราะห์ที่เรียกว่าการวิเคราะห์เครือข่ายเชิงสาเหตุเพื่อกำหนดและจัดอันดับอิทธิพลของบัญชีเฉพาะ – บัญชีใดที่มักสร้างโพสต์ที่แพร่ระบาด
เทคโนโลยีเหล่านี้กำลังป้อนเข้าสู่งานที่ Zurko นำไปสู่การพัฒนาเตียงทดสอบการปฏิบัติงานที่มีอิทธิพลต่อการต่อต้าน เป้าหมายคือการสร้างพื้นที่ปลอดภัยเพื่อจำลองสภาพแวดล้อมโซเชียลมีเดียและทดสอบการต่อต้านเทคโนโลยี สิ่งสำคัญที่สุดคือ เตียงทดสอบจะช่วยให้ผู้ปฏิบัติงานที่เป็นมนุษย์เข้ามามีส่วนร่วม เพื่อดูว่าเทคโนโลยีใหม่ช่วยให้พวกเขาทำงานของตนได้ดีเพียงใด
“บุคลากรฝ่ายปฏิบัติการด้านข้อมูลของกองทัพยังขาดวิธีการวัดผลกระทบ ด้วยการยืนขึ้นเตียงทดสอบ เราสามารถใช้เทคโนโลยีที่แตกต่างกันหลายอย่างในรูปแบบที่ทำซ้ำได้ เพื่อสร้างเมตริกที่ทำให้เราเห็นว่าเทคโนโลยีเหล่านี้ทำให้ผู้ปฏิบัติงานมีประสิทธิภาพมากขึ้นในการระบุแคมเปญบิดเบือนข้อมูลและผู้ดำเนินการที่อยู่เบื้องหลังหรือไม่”
วิสัยทัศน์นี้ยังคงเป็นแรงบันดาลใจในขณะที่ทีมสร้างสภาพแวดล้อมของเตียงทดสอบ การจำลองผู้ใช้โซเชียลมีเดียและสิ่งที่ Zurko เรียกว่า “เซลล์สีเทา” ผู้เข้าร่วมที่ไม่รู้ตัวต่ออิทธิพลทางออนไลน์ ถือเป็นหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดในการเลียนแบบสภาพในโลกแห่งความเป็นจริง การสร้างแพลตฟอร์มโซเชียลมีเดียขึ้นมาใหม่ก็เป็นสิ่งที่ท้าทายเช่นกัน แต่ละแพลตฟอร์มมีนโยบายของตนเองในการจัดการกับการบิดเบือนข้อมูลและอัลกอริธึมที่เป็นกรรมสิทธิ์ซึ่งมีอิทธิพลต่อการเข้าถึงข้อมูลที่บิดเบือน ตัวอย่างเช่นThe Washington Post รายงานว่าว่าอัลกอริธึมของ Facebook ให้ “คุณค่าพิเศษ” แก่ข่าวที่ได้รับปฏิกิริยาความโกรธ ทำให้มีแนวโน้มที่จะปรากฏบนฟีดข่าวของผู้ใช้ถึงห้าเท่า และเนื้อหาดังกล่าวมีแนวโน้มที่จะรวมข้อมูลที่ผิดอย่างไม่เหมาะสม การเปลี่ยนแปลงที่มักซ่อนไว้เหล่านี้มีความสำคัญในการทำซ้ำในเตียงทดสอบ ทั้งเพื่อศึกษาการแพร่กระจายของข่าวปลอมและทำความเข้าใจผลกระทบของการแทรกแซง
ใช้แนวทางแบบเต็มระบบ
นอกจากการสร้างเตียงทดสอบเพื่อรวมแนวคิดใหม่เข้าด้วยกันแล้ว Zurko ยังสนับสนุนให้เกิดพื้นที่รวมศูนย์ที่นักวิจัยบิดเบือนข้อมูลสามารถเรียกได้ว่าเป็นของตนเอง พื้นที่ดังกล่าวจะช่วยให้นักวิจัยในสังคมวิทยา จิตวิทยา นโยบาย และกฎหมายมารวมตัวกันและแบ่งปันแง่มุมที่ตัดขวางของงานของพวกเขาร่วมกับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ การป้องกันข้อมูลบิดเบือนที่ดีที่สุดจะต้องอาศัยความเชี่ยวชาญที่หลากหลายนี้ Zurko กล่าว และ “แนวทางเต็มรูปแบบของการป้องกันทั้งที่เน้นมนุษย์เป็นศูนย์กลางและทางเทคนิค”
แม้ว่าพื้นที่นี้ยังไม่มีอยู่จริง แต่ก็มีแนวโน้มว่าจะอยู่บนขอบฟ้าในขณะที่ทุ่งนายังคงเติบโต การวิจัยการดำเนินงานที่มีอิทธิพลกำลังได้รับความสนใจในโลกของการรักษาความปลอดภัยทางไซเบอร์ “เมื่อเร็ว ๆ นี้ การประชุมชั้นนำได้เริ่มทำการวิจัยการบิดเบือนข้อมูลในการเรียกร้องให้มีเอกสาร ซึ่งเป็นตัวบ่งชี้ที่แท้จริงว่าสิ่งต่างๆ กำลังดำเนินไปอย่างไร” Zurko กล่าว “แต่บางคนยังคงยึดมั่นในแนวคิดแบบเดิมๆ ที่ว่ามนุษย์จอมยุ่งไม่มีส่วนเกี่ยวข้องกับความปลอดภัยทางไซเบอร์”
แม้จะมีความรู้สึกเหล่านั้น Zurko ยังคงเชื่อมั่นในการสังเกตการณ์ในช่วงแรกของเธอในฐานะนักวิจัย – เทคโนโลยีไซเบอร์ทำอะไรได้อย่างมีประสิทธิภาพนั้นถูกกลั่นกรองโดยวิธีที่ผู้คนใช้ เธอต้องการออกแบบเทคโนโลยีต่อไป และแก้ปัญหาด้วยวิธีที่ทำให้มนุษย์เป็นศูนย์กลาง “ตั้งแต่เริ่มแรก สิ่งที่ฉันชอบเกี่ยวกับความปลอดภัยในโลกไซเบอร์ก็คือความเข้มงวดทางคณิตศาสตร์บางส่วนและบางส่วนนั่งอยู่รอบ ๆ ‘กองไฟ’ บอกเล่าเรื่องราวและเรียนรู้จากกันและกัน” เซอร์โคเล่า การบิดเบือนได้รับพลังจากความสามารถของมนุษย์ในการโน้มน้าวซึ่งกันและกัน ความสามารถนั้นอาจเป็นแค่การป้องกันที่ทรงพลังที่สุดที่เรามี
