แชตบอทบนเว็บสายการบิน ตอบลูกค้าผิดไปประโยคเดียว — สุดท้ายบริษัทต้องจ่ายตามที่บอทพูด
ปลายปี 2022 ชายคนหนึ่งเพิ่งเสียคุณยาย ต้องรีบบินไปงานศพ เขาถามแชตบอทบนเว็บสายการบินว่าตั๋วกรณีคนในครอบครัวเสียชีวิตขอส่วนลดยังไง บอทตอบว่า "ซื้อเต็มราคาไปก่อน แล้วขอคืนย้อนหลังภายใน 90 วัน" เขาทำตามนั้นทุกอย่าง แต่พอกลับมายื่นเรื่อง สายการบินปฏิเสธ — เพราะนโยบายจริงเขียนว่าต้องขอก่อนเดินทาง
เรื่องไปจบที่หน่วยงานระงับข้อพิพาททางแพ่งของรัฐ British Columbia แคนาดา และสายการบินสู้ว่า "แชตบอทเป็นหน่วยงานแยกต่างหาก ต้องรับผิดชอบคำพูดของตัวเอง"
ผู้พิจารณาไม่รับข้อต่อสู้นี้ บอทเป็นส่วนหนึ่งของเว็บบริษัท และบริษัทรับผิดชอบทุกอย่างที่อยู่บนเว็บของตัวเอง — AI ที่คุยกับลูกค้าได้ คือปากของบริษัท
พรุ่งนี้ถามทีมประโยคเดียว: แชตบอทหรือผู้ช่วย AI ของเรา สัญญาอะไรกับลูกค้าได้บ้าง แล้วใครเป็นคนตรวจสิ่งที่มันพูด
ภาพและเสียงในคลิปสังเคราะห์จากตัวผมเอง เนื้อหาทุกตอนผมเขียนและตรวจเอง
#TheCyberTalk #AI #แชตบอท #ความปลอดภัยไซเบอร์ #ผู้บริหาร #CISSP
แชตบอทบนเว็บสายการบิน ตอบลูกค้าผิดไปประโยคเดียว สุดท้ายบริษัทต้องจ่ายตามที่บอทพูด
เรื่องนี้เกิดขึ้นจริง TheCyberTalk ถอดบทเรียนให้ฟัง
ปลายปี 2022 ชายคนหนึ่งเพิ่งเสียคุณยาย เขาต้องรีบบินไปงานศพ
ก่อนซื้อตั๋ว เขาถามแชตบอทบนเว็บสายการบินว่า ตั๋วกรณีคนในครอบครัวเสียชีวิต ขอส่วนลดยังไง
บอทตอบว่า ซื้อตั๋วเต็มราคาไปก่อน แล้วค่อยขอคืนส่วนต่างย้อนหลัง ภายใน 90 วัน
เขาทำตามนั้นทุกอย่าง แต่พอกลับมายื่นเรื่อง สายการบินปฏิเสธ
เพราะนโยบายจริงเขียนว่า ส่วนลดแบบนี้ต้องขอก่อนเดินทาง ขอย้อนหลังไม่ได้
และนโยบายฉบับจริง ก็อยู่บนเว็บของสายการบินเอง คนละหน้ากับที่บอทตอบ
เรื่องไปจบที่หน่วยงานระงับข้อพิพาททางแพ่ง รัฐ British Columbia แคนาดา
สายการบินสู้ว่า แชตบอทเป็นหน่วยงานแยกต่างหาก และต้องรับผิดชอบคำพูดของตัวเอง
อ่านถึงตรงนี้ผมต้องอ่านซ้ำ บริษัทกำลังบอกว่า บอทบนเว็บตัวเอง ไม่ใช่ของตัวเอง
ผู้พิจารณาไม่รับข้อต่อสู้นี้ บอทเป็นส่วนหนึ่งของเว็บบริษัท และบริษัทรับผิดชอบทุกอย่างบนเว็บตัวเอง
ผลคือต้องจ่ายค่าเสียหายราว C$650 เงินไม่เยอะ แต่บรรทัดฐานใหญ่กว่าเงินมาก
ผมทำงานสายความปลอดภัยไซเบอร์มาหลายปี ถือใบ CISSP เรื่อง AI ไม่มีใครจบมาก่อน ผมเรียนไปพร้อมคุณ
ถอดบทเรียนเป็น 3 ข้อ
ข้อ 1 AI ที่คุยกับลูกค้า คือปากของบริษัท ทุกอย่างที่มันพูด ผูกพันเหมือนพนักงานคุณพูดเอง
ข้อ 2 จุดที่พังไม่ใช่บอทโกหก แต่คือไม่มีใครตรวจว่าบอทพูดอะไรออกไป คนซื้อตั๋วไม่ได้ประมาท เขาเชื่อเว็บบริษัทตามปกติ
ข้อ 3 ก่อนเปิดบอทคุยกับลูกค้า ต้องตอบให้ได้ว่า เรื่องไหนบอทตอบเองได้ เรื่องไหนต้องส่งต่อให้คน แล้วสิ่งที่มันตอบไป ย้อนดูได้ไหม
พรุ่งนี้ ถามทีมประโยคเดียวครับ แชตบอทหรือผู้ช่วย AI ของเรา สัญญาอะไรกับลูกค้าได้บ้าง แล้วใครเป็นคนตรวจสิ่งที่มันพูด
ถ้าไม่มีใครตอบได้ แปลว่าตอนนี้มีคนพูดแทนบริษัทคุณอยู่ทุกวัน โดยไม่มีใครฟังว่ามันพูดอะไร
ตอนหน้า เราจะถอดบทเรียน จากบริษัทเทคโนโลยียักษ์ใหญ่ ที่เปิดให้พนักงานใช้ AI ช่วยทำงาน แล้วความลับก็ไหลออกไปทางนั้น โดยไม่มีใครเจาะระบบ
ติดตาม TheCyberTalk ไว้นะครับ จะได้รู้เท่าทันภัยไซเบอร์ ก่อนที่มันจะมาถึงคุณ