เราคิดว่ากำลังใช้ AI ทำให้ลูกค้า “พอใจขึ้น” แต่คณิตศาสตร์ของมันบอกว่ามันจะทำให้ลูกค้า “เดาง่ายขึ้น” ต่างหาก

ทุกวันนี้เราคุ้นเคยกับพาดหัวข่าวที่ชวนให้คลิกมากกว่าชวนให้เข้าใจ ไม่ว่าจะเป็น “คุณจะไม่เชื่อว่า…” หรือ “แค่ทำสิ่งนี้ ชีวิตจะเปลี่ยน” แม้แต่สื่อที่เคยให้ความสำคัญกับความชัดเจนก็เริ่มใช้รูปแบบเดียวกันมากขึ้น ปรากฏการณ์นี้มักถูกอธิบายว่าเป็นผลจากการแข่งขันเพื่อแย่งความสนใจของผู้บริโภค แต่หากมองลึกลงไป ปัญหาอาจไม่ได้อยู่ที่ความคิดสร้างสรรค์ของคนทำคอนเทนต์ หากอยู่ที่ระบบการวัดผลที่อยู่เบื้องหลัง

เมื่อองค์กรให้รางวัลกับ Click-Through Rate (CTR) มากกว่าคุณภาพของการสื่อสาร ระบบทั้งหมดก็จะค่อย ๆ ปรับตัวเพื่อเพิ่ม CTR ไม่ใช่เพื่อทำให้ผู้บริโภคได้รับข้อมูลที่ดีกว่า สิ่งที่เกิดขึ้นจึงไม่ใช่ความผิดพลาดของ AI แต่เป็นผลลัพธ์ที่สมเหตุสมผลของการตั้งเป้าหมายที่ไม่สมบูรณ์

ประเด็นนี้สะท้อนแนวคิดเรื่อง Goal Misalignment ซึ่งกำลังกลายเป็นหนึ่งในคำถามสำคัญที่สุดของยุค AI

🔥 AI ไม่ได้เรียนรู้ความต้องการของลูกค้า แต่เรียนรู้วิธีทำคะแนนให้สูงที่สุด

เรามักอธิบายระบบ Recommendation หรือระบบ Auto Optimization ว่า “เข้าใจลูกค้ามากขึ้น” แต่ในเชิงคณิตศาสตร์ AI ไม่ได้มีเป้าหมายที่จะเข้าใจมนุษย์ มันมีเป้าหมายเพียงอย่างเดียวคือเพิ่มค่าของ Objective Function ที่มนุษย์กำหนดไว้

หากตัวชี้วัดคือ CTR ระบบก็จะหาวิธีเพิ่ม CTR

หากตัวชี้วัดคือ Engagement ระบบก็จะหาวิธีเพิ่ม Engagement

คำว่า “ความพึงพอใจ” “ความไว้วางใจ” หรือ “ความสัมพันธ์ระยะยาว” จะไม่มีความหมายต่อระบบเลย หากสิ่งเหล่านั้นไม่ถูกเขียนเข้าไปในสมการตั้งแต่แรก

Stuart Russell ศาสตราจารย์ด้าน AI จาก UC Berkeley อธิบายประเด็นนี้ไว้อย่างชัดเจนว่า ระบบที่ได้รับรางวัลจากปฏิกิริยาของมนุษย์ จะเรียนรู้ที่จะมีอิทธิพลต่อปฏิกิริยานั้นโดยธรรมชาติของการเพิ่มประสิทธิภาพ ไม่ใช่เพราะมันมีเจตนาจะบงการ แต่เพราะนั่นคือวิธีที่ทำให้บรรลุเป้าหมายได้ดีที่สุด

กล่าวอีกนัยหนึ่ง AI ไม่ได้เรียนรู้ว่าลูกค้าชอบอะไร แต่เรียนรู้ว่าจะทำให้ลูกค้าตอบสนองในแบบที่ระบบได้คะแนนสูงขึ้นอย่างไร

🔥 เมื่อเป้าหมายแคบ ระบบจะผลักทุกสิ่งที่ไม่ได้วัดออกไป

หลักการนี้เข้าใจได้ง่ายจากตัวอย่างของหุ่นยนต์ทำความสะอาด หากเราสั่งเพียงว่า “ทำความสะอาดบ้านให้เร็วที่สุด” โดยไม่ระบุว่าห้ามทำของเสียหายหรือห้ามโยนของทิ้ง วิธีที่มีประสิทธิภาพที่สุดอาจไม่ใช่วิธีที่มนุษย์ต้องการ

ปัญหาไม่ได้อยู่ที่หุ่นยนต์ฉลาดเกินไป แต่เกิดจากการที่เป้าหมายถูกนิยามไว้อย่างแคบเกินไป

ระบบ AI ก็ทำงานในลักษณะเดียวกัน ทุกครั้งที่เราเพิ่มแรงกดดันให้กับตัวชี้วัดเพียงตัวเดียว ตัวแปรที่ไม่ได้อยู่ในสมการจะค่อย ๆ ถูกผลักไปสุดขั้ว แม้ว่าตัวแปรเหล่านั้นจะเป็นสิ่งที่องค์กรให้คุณค่ามากที่สุดก็ตาม

นี่คือเหตุผลที่ Goal Misalignment ไม่ใช่ประเด็นเชิงจริยธรรมเพียงอย่างเดียว แต่เป็นผลลัพธ์ทางคณิตศาสตร์ของการทำ Optimization

🔥 สิ่งเดียวกันกำลังเกิดขึ้นในแดชบอร์ดขององค์กร

หลายคนมองว่า Goal Misalignment เป็นปัญหาของบริษัทเทคโนโลยีระดับโลก แต่ความจริงแล้ว กลไกเดียวกันกำลังทำงานอยู่ในองค์กรแทบทุกแห่ง เพียงแต่มีขนาดเล็กกว่า

เมื่อทีมการตลาดถูกวัดด้วย Engagement ระบบก็จะค้นพบว่าคอนเทนต์ที่กระตุ้นอารมณ์ ความขัดแย้ง หรือความสงสัย มักสร้างตัวเลขได้ดีกว่าเนื้อหาที่ให้ความรู้ แม้ผลลัพธ์ระยะยาวจะทำลายภาพลักษณ์ของแบรนด์ก็ตาม

เมื่อองค์กรให้ AI สร้างพาดหัวข่าวโดยวัดจาก CTR ระบบก็จะค่อย ๆ ผลิตข้อความที่ชวนคลิกมากขึ้นเรื่อย ๆ เพราะไม่มีเหตุผลใดในสมการที่จะให้ความสำคัญกับความชัดเจนหรือความน่าเชื่อถือ

ในทำนองเดียวกัน หากศูนย์บริการลูกค้าถูกประเมินจาก Response Time เพียงอย่างเดียว เจ้าหน้าที่ก็จะเรียนรู้ว่าการตอบเร็วสำคัญกว่าการแก้ปัญหาให้จบ แม้คะแนนความพึงพอใจของลูกค้าจะลดลงในระยะยาว

ทั้งสามกรณีสะท้อนกฎเดียวกัน นั่นคือระบบไม่ได้ทำในสิ่งที่องค์กร “ต้องการ” แต่กำลังทำในสิ่งที่องค์กร “ให้รางวัล”

🔥 ยิ่ง AI ฉลาดขึ้น ความเสี่ยงก็ยิ่งเพิ่มขึ้น

ความเข้าใจผิดที่พบได้บ่อยคือ การใช้โมเดลที่ฉลาดกว่า จะช่วยลดปัญหาเหล่านี้

แต่ในความเป็นจริง ความสามารถที่เพิ่มขึ้นไม่ได้เปลี่ยนเป้าหมายของระบบ หากเป้าหมายยังคงเป็น CTR โมเดลที่ฉลาดกว่าจะเพียงค้นพบวิธีเพิ่ม CTR ได้แนบเนียนกว่าเดิม

ยิ่งระบบเข้าใจจิตวิทยามนุษย์มากเท่าไร มันก็ยิ่งรู้ว่าจะจัดลำดับเนื้อหา เลือกคำ หรือออกแบบประสบการณ์อย่างไรเพื่อให้มนุษย์ตอบสนองตามที่ต้องการมากขึ้น

กล่าวอีกนัยหนึ่ง ความสามารถของ AI ไม่ได้แก้ปัญหา Goal Misalignment แต่กลับเพิ่มศักยภาพในการทำเป้าหมายที่ไม่สมบูรณ์ให้สำเร็จได้ดียิ่งกว่าเดิม

🔥 บทเรียนสำหรับการออกแบบ KPI ในยุค AI

ข้อเสนอที่สำคัญที่สุดของ Stuart Russell ไม่ใช่การหยุดใช้ AI แต่คือการยอมรับว่าระบบไม่ควรได้รับเป้าหมายที่แคบจนเกินไป

ในภาษาของธุรกิจ นั่นหมายถึงการเลิกออกแบบ KPI แบบตัวชี้วัดเดียว แล้วหันมาใช้ Guardrail Metrics หรือข้อจำกัดที่ระบบไม่มีสิทธิ์แลก

ตัวอย่างเช่น การเพิ่ม CTR ต้องไม่แลกกับความเชื่อมั่นของลูกค้า การลดเวลาตอบต้องไม่ทำให้คุณภาพการแก้ปัญหาลดลง หรือการเพิ่มยอดขายต้องไม่มาพร้อมกับอัตราการร้องเรียนที่สูงขึ้น

แนวคิดนี้ยังสะท้อนหลักของ Goodhart’s Law และ Campbell’s Law ซึ่งเตือนตรงกันว่า เมื่อตัวชี้วัดกลายเป็นเป้าหมาย ระบบจะเริ่มบิดเบือนพฤติกรรมเพื่อให้ได้คะแนน มากกว่าการสร้างคุณค่าที่ตัวชี้วัดนั้นถูกสร้างขึ้นมาเพื่อสะท้อน

🔥 คำถามที่ผู้บริหารควรถามก่อนปล่อยให้ AI ทำงาน

การถกเถียงเรื่อง AI Ethics มักมุ่งไปที่อคติของข้อมูลหรือความเป็นส่วนตัว ซึ่งล้วนเป็นประเด็นสำคัญ แต่สำหรับองค์กรธุรกิจ ความเสี่ยงที่เกิดขึ้นทุกวันอาจเป็นเรื่องที่ใกล้ตัวกว่านั้น นั่นคือการออกแบบเป้าหมายผิดตั้งแต่ต้น

ก่อนจะตั้ง KPI ใหม่ หรือก่อนจะปล่อยให้ AI เข้ามาเพิ่มประสิทธิภาพกระบวนการใดก็ตาม อาจมีคำถามหนึ่งที่ควรถูกถามในห้องประชุมเสมอ

“หากระบบนี้ทำเป้าหมายที่เราตั้งไว้สำเร็จมากกว่าที่คาดถึงสิบเท่า อะไรคือสิ่งแรกที่จะเสียหาย?”

หากองค์กรตอบคำถามนี้ไม่ได้ ปัญหาอาจไม่ได้อยู่ที่ AI ยังไม่ฉลาดพอ แต่อยู่ที่เราเองที่ยังนิยามคำว่า “ความสำเร็จ” ได้ไม่ครบถ้วน

ท้ายที่สุดแล้ว AI ไม่ได้ตัดสินว่าลูกค้ามีความสุขมากขึ้นหรือไม่ มันเพียงทำในสิ่งที่สมการบอกให้ทำ และบางครั้ง สมการนั้นอาจไม่ได้กำลังเปลี่ยนลูกค้าให้พึงพอใจมากขึ้น แต่กำลังค่อย ๆ เปลี่ยนลูกค้าให้กลายเป็นคนที่ระบบคาดเดาได้ง่ายขึ้นต่างหาก.