Tech

ตอนนี้ที่เครื่องจักรสามารถเรียนรู้ พวกเขาสามารถยกเลิกการเรียนรู้ได้หรือไม่

บริษัททุกประเภท ใช้ การเรียนรู้ของเครื่อง เพื่อวิเคราะห์ความต้องการของผู้คน , ไม่ชอบหรือหน้าตา. นักวิจัยบางคนกำลังถามคำถามที่แตกต่างออกไป: เราจะทำให้เครื่องลืมได้อย่างไร

พื้นที่ตั้งไข่ของวิทยาการคอมพิวเตอร์ขนานนามเครื่อง unlearning พยายามหาวิธีที่จะทำให้เกิดความจำเสื่อมในซอฟต์แวร์ ปัญญาประดิษฐ์ เป้าหมายคือการลบร่องรอยของบุคคลหรือจุดข้อมูลใด ๆ ออกจากระบบการเรียนรู้ของเครื่อง โดยไม่กระทบต่อประสิทธิภาพการทำงาน

หากนำไปปฏิบัติได้จริง แนวคิดจะทำให้ผู้คนมากขึ้น ควบคุมข้อมูลและมูลค่าที่ได้รับ แม้ว่าผู้ใช้สามารถขอให้บางบริษัทลบข้อมูลส่วนบุคคลได้แล้ว แต่โดยทั่วไปแล้วพวกเขาก็ยังไม่เข้าใจว่าข้อมูลของพวกเขาช่วยปรับแต่งหรือฝึกอบรมอัลกอริทึมใด การยกเลิกการเรียนรู้ด้วยเครื่องอาจทำให้บุคคลสามารถถอนทั้งข้อมูลและความสามารถของบริษัทในการทำกำไรจากข้อมูลนั้นได้

แม้ว่าจะเข้าใจได้ง่ายสำหรับทุกคนที่ได้ดูถูกสิ่งที่พวกเขาแชร์ทางออนไลน์ ความคิดเรื่องความจำเสื่อมนั้นต้องการแนวคิดใหม่ๆ ในด้านวิทยาการคอมพิวเตอร์ บริษัทต่างๆ ใช้เงินหลายล้านดอลลาร์ในการฝึกอบรมอัลกอริธึมการเรียนรู้ด้วยเครื่องเพื่อจดจำใบหน้าหรือจัดอันดับโพสต์ในโซเชียล เนื่องจากอัลกอริธึมมักจะสามารถแก้ปัญหาได้เร็วกว่าคนเขียนโค้ดเพียงคนเดียว แต่เมื่อได้รับการฝึกอบรมแล้ว ระบบการเรียนรู้ด้วยเครื่องจะไม่สามารถเปลี่ยนแปลงได้ง่าย หรือแม้แต่เข้าใจ วิธีทั่วไปในการขจัดอิทธิพลของจุดข้อมูลเฉพาะคือการสร้างระบบใหม่ตั้งแต่ต้น ซึ่งเป็นแบบฝึกหัดที่มีค่าใช้จ่ายสูง “งานวิจัยนี้มีจุดมุ่งหมายเพื่อค้นหาจุดกึ่งกลาง” Aaron Roth ศาสตราจารย์แห่งมหาวิทยาลัยเพนซิลเวเนียซึ่งทำงานเกี่ยวกับการเรียนรู้ด้วยเครื่องจักรกล่าว “เราสามารถลบอิทธิพลทั้งหมดของข้อมูลของใครบางคนเมื่อพวกเขาขอให้ลบออก แต่หลีกเลี่ยงค่าใช้จ่ายในการฝึกอบรมใหม่ทั้งหมดตั้งแต่ต้นได้หรือไม่”

การทำงานกับการเรียนรู้ด้วยเครื่องมีแรงจูงใจส่วนหนึ่ง โดยให้ความสนใจกับวิธีที่ปัญญาประดิษฐ์สามารถกัดเซาะความเป็นส่วนตัวได้ หน่วยงานกำกับดูแลข้อมูลทั่วโลกมีอำนาจในการบังคับให้บริษัทต่างๆ ลบข้อมูลที่ได้มาโดยมิชอบได้เป็นเวลานาน พลเมืองของบางพื้นที่ เช่น EU และ แคลิฟอร์เนีย แม้แต่มีสิทธิที่จะขอให้บริษัทลบข้อมูลของตนได้หากพวกเขาเปลี่ยนใจเกี่ยวกับสิ่งที่พวกเขาเปิดเผย ไม่นานมานี้ หน่วยงานกำกับดูแลของสหรัฐอเมริกาและยุโรปได้กล่าวว่าเจ้าของระบบ AI บางครั้งต้องก้าวไปอีกขั้น: การลบระบบที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่ละเอียดอ่อน

ปีที่แล้ว ผู้ควบคุมข้อมูลของสหราชอาณาจักร เตือนบริษัทต่างๆ ว่าซอฟต์แวร์แมชชีนเลิร์นนิงบางตัวอาจอยู่ภายใต้สิทธิ์ของ GDPR เช่น การลบข้อมูล เนื่องจาก ระบบ AI สามารถมีข้อมูลส่วนบุคคล นักวิจัยด้านความปลอดภัยได้แสดง ว่าบางครั้งอัลกอริธึมอาจถูกบังคับให้รั่วไหลข้อมูลสำคัญที่ใช้ในการสร้าง เมื่อต้นปีนี้ สำนักงานคณะกรรมการการค้าแห่งสหพันธรัฐแห่งสหรัฐอเมริกา ได้บังคับให้ Paravision เริ่มต้นการจดจำใบหน้า ลบคอลเลกชันของใบหน้าที่ได้รับมาอย่างไม่เหมาะสม ภาพถ่ายและอัลกอริธึมแมชชีนเลิร์นนิงที่ได้รับการฝึกอบรมกับพวกเขา Rohit Chopra กรรมาธิการ FTC ยกย่องว่ากลยุทธ์การบังคับใช้ใหม่เป็นวิธีการบังคับให้บริษัทละเมิดกฎของข้อมูลเพื่อ “เสียผลจากการหลอกลวง”

ขอบเขตเล็กๆ ของการไม่เรียนรู้เครื่องจักร การวิจัยต่อสู้กับคำถามเชิงปฏิบัติและเชิงคณิตศาสตร์บางส่วนที่เกิดจากการเปลี่ยนแปลงด้านกฎระเบียบเหล่านั้น นักวิจัยได้แสดงให้เห็นว่าพวกเขาสามารถทำให้อัลกอริธึมการเรียนรู้ด้วยเครื่องลืมได้ภายใต้เงื่อนไขบางประการ แต่เทคนิคนี้ยังไม่พร้อมสำหรับช่วงไพร์มไทม์ Roth กล่าวว่า “เป็นเรื่องปกติสำหรับเยาวชน มีช่องว่างระหว่างสิ่งที่ต้องการทำในพื้นที่นี้กับสิ่งที่เรารู้วิธีการทำในตอนนี้” Roth กล่าว

แนวทางหนึ่งที่มีแนวโน้มดี เสนอ ในปี 2019 โดยนักวิจัยจากมหาวิทยาลัยโตรอนโตและวิสคอนซิน-แมดิสัน เกี่ยวข้องกับการแยกข้อมูลต้นทางสำหรับ โปรเจ็กต์แมชชีนเลิร์นนิงใหม่แบ่งออกเป็นหลายส่วน แต่ละรายการจะได้รับการประมวลผลแยกกัน ก่อนที่ผลลัพธ์จะถูกรวมเข้ากับโมเดลการเรียนรู้ของเครื่องขั้นสุดท้าย หากจำเป็นต้องลืมจุดข้อมูลหนึ่งจุดในภายหลัง จะต้องประมวลผลข้อมูลอินพุตเดิมเพียงเศษเสี้ยวเดียวเท่านั้น แสดงวิธีการทำงานกับข้อมูลการซื้อออนไลน์และคอลเลกชัน มากกว่าหนึ่งล้านภาพ .

Roth และผู้ทำงานร่วมกันจาก Penn, Harvard และ Stanford

เมื่อเร็ว ๆ นี้ แสดงให้เห็นข้อบกพร่องในแนวทางดังกล่าว โดยแสดงให้เห็นว่าระบบที่ไม่ได้รับการเรียนรู้จะพังลงหากคำขอลบที่ส่งมามาในลำดับที่เฉพาะเจาะจง ไม่ว่าจะโดยบังเอิญหรือจากผู้มุ่งร้าย พวกเขายังแสดงให้เห็นว่าปัญหาสามารถบรรเทาลงได้อย่างไร

Gautam Kamath ศาสตราจารย์แห่ง University of Waterloo ก็ทำงานเกี่ยวกับการไม่เรียนรู้เช่นกันกล่าวว่าปัญหาที่พบและแก้ไขคือ ตัวอย่างของคำถามเปิดมากมายที่เหลืออยู่เกี่ยวกับวิธีการทำให้เครื่องเลิกเรียนรู้มากกว่าแค่ความอยากรู้ในห้องแล็บ กลุ่มวิจัยของเขาเอง


สำรวจ ว่าระบบมีความแม่นยำลดลงเพียงใดโดยการทำให้มันต่อเนื่อง ปลดเปลื้องจุดข้อมูลหลายจุด

Kamath ยังสนใจที่จะหาวิธีให้บริษัทพิสูจน์—หรือหน่วยงานกำกับดูแลในการตรวจสอบ—ว่าระบบลืมไปแล้วจริงๆ ว่าควรทำอะไร ปลดเปลื้อง “รู้สึกเหมือนอยู่ไม่ไกล แต่บางทีพวกเขาอาจมีผู้ตรวจสอบบัญชีสำหรับสิ่งนี้” เขากล่าว

เหตุผลด้านกฎระเบียบในการตรวจสอบความเป็นไปได้ของการยกเลิกการเรียนรู้ด้วยเครื่องมีแนวโน้มเพิ่มขึ้นเมื่อ FTC และหน่วยงานอื่นๆ พิจารณาถึงพลังของอัลกอริทึมอย่างละเอียดยิ่งขึ้น Reuben Binns รองศาสตราจารย์แห่งมหาวิทยาลัยอ็อกซ์ฟอร์ดซึ่งศึกษาเรื่องการปกป้องข้อมูลกล่าวว่าแนวคิดที่ว่าบุคคลควรพูดถึงชะตากรรมและผลของข้อมูลของตนได้เพิ่มขึ้นในช่วงไม่กี่ปีที่ผ่านมาทั้งในสหรัฐฯ และยุโรป

ต้องใช้งานด้านเทคนิคที่เก่งกาจก่อนที่บริษัทเทคโนโลยีจะสามารถใช้ machine unlearning ได้จริง เพื่อให้ผู้คนสามารถควบคุมอัลกอริธึมชะตากรรมของข้อมูลได้มากขึ้น ถึงอย่างนั้นเทคโนโลยีอาจไม่เปลี่ยนแปลงมากนักเกี่ยวกับความเสี่ยงด้านความเป็นส่วนตัวในยุค AI

Differential Privacy เทคนิคอันชาญฉลาดในการกำหนดขอบเขตทางคณิตศาสตร์กับสิ่งที่ระบบสามารถรั่วไหลเกี่ยวกับบุคคลได้ ให้การเปรียบเทียบที่เป็นประโยชน์ Apple, Google และ Microsoft ต่างก็ชื่นชอบเทคโนโลยีนี้ แต่ก็มีการใช้งานค่อนข้างน้อย และอันตรายต่อความเป็นส่วนตัวยังคงมีอยู่มากมาย

Binns กล่าวว่าในขณะที่มันมีประโยชน์อย่างแท้จริง “ในกรณีอื่นๆ มากกว่าสิ่งที่บริษัททำเพื่อแสดงให้เห็นว่ามันเป็นนวัตกรรม” เขาสงสัยว่าแมชชีน unlearning อาจพิสูจน์ได้ว่าคล้ายคลึงกัน ซึ่งเป็นการสาธิตความเฉียบแหลมทางเทคนิคมากกว่าการเปลี่ยนแปลงครั้งใหญ่ในการปกป้องข้อมูล แม้ว่าเครื่องจักรจะเรียนรู้ที่จะลืม ผู้ใช้จะต้องจำไว้ด้วยความระมัดระวังว่าพวกเขาแบ่งปันข้อมูลกับใครบ้าง


เรื่องราวที่มีสายมากขึ้น

  • ? ข้อมูลล่าสุดเกี่ยวกับเทคโนโลยี วิทยาศาสตร์ และอื่นๆ: รับจดหมายข่าวของเรา!
  • เป็นลูกชาย ช่วยชีวิตในทะเล. แต่เกิดอะไรขึ้นกับแม่ของเขา?
  • การระบาดใหญ่ ผู้ร่วมก่อตั้งการบำบัดคู่รัก
  • ชุดหูฟังสำหรับเล่นเกมเสมือนจริง คุ้มหรือไม่
  • การปกป้องผู้ที่มีภูมิคุ้มกันบกพร่อง ปกป้องทุกคน

    ที่แปลกประหลาด สุราอย่างยั่งยืนในอนาคต รสชาติดี?

  • ?️ สำรวจ AI อย่างที่ไม่เคยมีมาก่อนด้วย ฐานข้อมูลใหม่ของเรา
  • ? เกมแบบมีสาย: รับข้อมูลล่าสุด คำแนะนำ บทวิจารณ์ และอื่นๆ

  • ? อัปเกรดเกมงานของคุณด้วยทีม Gear ของเรา แล็ปท็อปที่ชื่นชอบ, แป้นพิมพ์, ทางเลือกการพิมพ์ และ หูฟังตัดเสียงรบกวน

  • จ.ตรังủ ธุรกิจ

  • อาหาร
  • ไลฟ์สไตล์ เทค

  • กลยุทธ์การตลาดดิจิทัล)
  • Back to top button