AI Dark Patterns กลลวงเฉพาะบุคคล และข้อกฎหมายที่ต้องรู้

เมื่อเทคโนโลยีอาจรู้ว่าเราจะถูกชักจูงอย่างไร

ที่ผ่านมา Dark Patterns มักเป็นการออกแบบหน้าจอที่ผู้ใช้จำนวนมากเห็นเหมือนกัน เช่น ปุ่มยอมรับที่เด่นกว่าปุ่มปฏิเสธ หรือข้อความเร่งรัดให้รีบซื้อสินค้า

แต่เมื่อปัญญาประดิษฐ์ (Artificial Intelligence: AI) เข้ามาช่วยวิเคราะห์พฤติกรรมผู้ใช้ การชักจูงการตัดสินใจอาจเปลี่ยนจากการออกแบบแบบเดียวสำหรับทุกคน ไปสู่การเลือกข้อความหรือข้อเสนอที่แตกต่างกันตามลักษณะของแต่ละบุคคล

คำถามสำคัญจึงไม่ใช่เพียงว่าแพลตฟอร์มกำลังชักจูงให้เราตัดสินใจหรือไม่ แต่รวมถึงระบบ AI อาจเรียนรู้ได้หรือไม่ว่า ควรใช้วิธีใดจึงจะมีอิทธิพลต่อผู้ใช้แต่ละคนมากที่สุด

จากการแนะนำสินค้า สู่การชักจูงเฉพาะบุคคล

ธุรกิจจำนวนมากใช้ AI เพื่อแนะนำสินค้า วิเคราะห์ความสนใจ และช่วยให้ลูกค้าค้นหาสิ่งที่ต้องการได้สะดวกขึ้น

การใช้งานเหล่านี้สามารถสร้างประโยชน์ได้ หากช่วยให้ผู้บริโภคได้รับข้อมูลที่เหมาะสมและตัดสินใจได้ดีขึ้น

แต่เทคโนโลยีเดียวกันอาจถูกนำไปใช้เพื่อชักจูงอย่างไม่เป็นธรรมได้

ตัวอย่างสมมติคือ ระบบที่วิเคราะห์ว่าผู้ใช้รายหนึ่งมักตอบสนองต่อข้อความเกี่ยวกับการพลาดโอกาส จึงเลือกแสดงข้อความสร้างความเร่งด่วนแก่ผู้ใช้รายนั้นบ่อยเป็นพิเศษ

หรือระบบสนทนาอัตโนมัติที่พบว่าลูกค้าต้องการยกเลิกบริการ แต่กลับเลือกใช้ข้อความโน้มน้าวซ้ำหลายครั้งแทนที่จะช่วยดำเนินการตามความประสงค์

ตัวอย่างเหล่านี้เป็นสถานการณ์ที่อาจเกิดขึ้นได้จากความสามารถของเทคโนโลยี ไม่ใช่ข้อกล่าวอ้างว่าระบบ AI ทุกแห่งกำลังดำเนินการเช่นนั้น

AI ที่ช่วยตัดสินใจกับ AI ที่บิดเบือนการตัดสินใจ

ความแตกต่างสำคัญอยู่ที่วิธีใช้ข้อมูลและเป้าหมายของระบบ

หาก AI แนะนำสินค้าพร้อมแสดงราคา คุณสมบัติ และข้อจำกัดอย่างครบถ้วน ก็อาจช่วยให้ผู้บริโภคตัดสินใจได้ดีขึ้น

แต่หาก AI ปกปิดข้อมูลสำคัญ สร้างข้อความที่ไม่ตรงกับข้อเท็จจริง หรือใช้ข้อมูลพฤติกรรมเพื่อกดดันผู้ใช้ ก็อาจเข้าข่ายการชักจูงที่ไม่เป็นธรรม

เรื่องนี้สำคัญยิ่งขึ้นเมื่อผู้บริโภคเริ่มใช้ AI Chatbot หรือ AI Agent เป็นผู้ช่วยค้นหา เปรียบเทียบ และซื้อสินค้า

ผู้ใช้อาจเชื่อว่าคำแนะนำจาก AI เป็นกลาง ทั้งที่ระบบอาจถูกกำหนดให้ให้ความสำคัญกับสินค้าหรือผลประโยชน์ทางธุรกิจบางประเภท

อย่างไรก็ตาม การแสดงโฆษณาหรือการแนะนำสินค้าที่ได้รับการสนับสนุนทางการค้าไม่ได้เป็น Dark Patterns โดยอัตโนมัติ ต้องพิจารณาความโปร่งใส ความถูกต้องของข้อมูล และผลต่อการตัดสินใจของผู้ใช้

กฎหมายกับความเสี่ยงจาก AI

หากองค์กรใช้ข้อมูลส่วนบุคคลเพื่อวิเคราะห์พฤติกรรมหรือจัดทำข้อเสนอเฉพาะบุคคล ต้องพิจารณาพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562 โดยเฉพาะฐานกฎหมาย วัตถุประสงค์การประมวลผล และหน้าที่ในการแจ้งข้อมูล

การจัดทำข้อมูลลักษณะเฉพาะบุคคลหรือโปรไฟล์ไม่ได้เป็นสิ่งต้องห้ามทุกกรณี แต่ต้องพิจารณาข้อมูลที่ใช้ วัตถุประสงค์ และผลกระทบที่เกิดขึ้นจริง

หาก AI สร้างข้อความโฆษณาที่ทำให้ผู้บริโภคเข้าใจผิด ก็อาจต้องพิจารณากฎหมายคุ้มครองผู้บริโภคด้วย โดยไม่จำเป็นต้องมีกฎหมายที่ใช้ชื่อว่า Dark Patterns โดยเฉพาะ

AI ควรช่วยให้มนุษย์ตัดสินใจดีขึ้น

องค์กรที่ใช้ AI ในการตลาดควรกำหนดข้อห้ามที่ชัดเจน เช่น ไม่สร้างข้อความเท็จ ไม่ปกปิดค่าใช้จ่ายสำคัญ และไม่ใช้ข้อมูลพฤติกรรมเพื่อเอาเปรียบผู้ใช้

สำหรับ AI Agent ที่สามารถดำเนินการแทนบุคคล ควรออกแบบให้เคารพคำสั่งของผู้ใช้และขอการยืนยันก่อนทำรายการที่มีผลสำคัญ

AI ที่ดีไม่ควรเป็นระบบที่รู้ว่าจะทำให้มนุษย์ยอมตามได้อย่างไร แต่ควรเป็นระบบที่ช่วยให้มนุษย์เข้าใจทางเลือกและตัดสินใจได้ดีขึ้น