הצ'אט בוט עשה טעות? אתם תשלמו את הטעות!

בשנים 2016 מיקרוסופט נפגעה עם צ'אט בוט Tay, בוט שאפתני למדי שהיה אמור להתבסס על בינה מלאכותית, כבר בהתחלה השם Tay סיבך את החברה כאשר הזמרת טיילור סוויפט איימה בתביעת ענק כנגד החברה בטענה שהשם מקושר אליה.
זכויות יוצרים על שם הייתה הבעיה הקטנה של מיקרוסופט, תוך זמן קצר הצ'אט החל לצייץ ציוצים גזעניים עם מסרים נאצים וירד מהרשת תוך פחות מ- 24 שעות.
בשנת 2019 Bank of America הססתבכו עם צ'אט בוט Erica, הצ'אט היה אמור לעזור ללקוחות לנהל את החשבונות שלהם, בפועל הצ'אט שגה שגיות חמורות, בין היתר מתן מידע שגוי וביצוע עסקאות שאינן מורשות, הבנק נאלץ לפצות את הלקוחות ולשלם קנסות כבדים.

חושבים שמדובר על מקרים ישנים? חשבו שנית, בימים האחרונים דווח על מקרה בו בית המשפט הקנדי חייב את החברה הלאומית, אייר קנדה, לפצות נוסע שהוטעה ע"י הצ'אט בוט כאשר נאלץ לשלם מחיר מלא על כרטיס טיסה ולמרות שהיה זכאי להנחה בכרטיס.
הצ'אט בוט של אייר קנדה נשאל לגבי תעריף מוזל של החברה במצב של הלוויה של בן משפחה מדרגה ראשונה, הצ'אט השיב שהחברה מעניקה הנחה על מצב שכזב ויהיה כליו להגיש בקשה להחזר כספי בתוך 90 ימים, כשחזר מההלוויה הגיש בקשה והופתע לגלות שהחברה לא מעניקה החזר על טיסות שבוצעו.
במשפט אייר קנדה הודו כי הצ'אט בוט אכן השתמש במילים מטעות, אך למרות זאת החברה בחרה קו הגנה מוזר במיוחד וטענה בפני בית המשפט כי הצ'אט בוט הוא ישות משפטית נפרדת והצ'אט בוט עצמו אחראי למעשיו.
השופט הקנדי, כריסטופר ריבר, דחה את טענות החברה ופסק לטובת הלקוח יחד פיצוי הוצאות המשפט, השופט הדגיש כי "אייר קנדה אחרית לכל המידע באתר שלה, הצ'אט בוט הוא עדין חלק מאתר החברה, אין זה משנה אם המידע הגיע מדף סטטי או מצ'אט בוט".