Open AI - ChatGPT

[Lievergezond]

https://www.nieuwsblad.be/buitenland/man-bestelt-18.000-waters-taco-bell-stopt-mogelijk-met-inzet-ai-na-absurde-fouten/86999913.html

Man bestelt 18.000 (!) waters: Taco Bell stopt mogelijk met inzet AI na absurde fouten​

Fastfoodketen Taco Bell gaat het gebruik van artificiële intelligentie (AI) in z’n drive-throughs mogelijk opnieuw stopzetten. Ondertussen smult het internet van de filmpjes waarin de technologie de mist in gaat.​

29 augustus 2025 om 21:00


In een poging om de foutenlast te verminderen en het bestellingsproces te versnellen introduceerde Taco Bell in 2023 artificiële intelligentie op ruim vijfhonderd locaties verspreid over de Verenigde Staten. Twee jaar later lijkt het er echter op dat de technologie exact het tegenovergestelde verwezenlijkt.

Filmpjes van opmerkelijke fouten die de technologie maakte, werden al miljoenen keren bekeken. In één clip liet een klant het systeem crashen door 18.000 watertjes te bestellen, terwijl een andere video toont hoe een persoon steeds kwader wordt als de AI-stem hem maar blijft vragen om meer drankjes toe te voegen aan zijn bestelling.

“Soms zijn mensen gewoon beter”​

Dane Mathews, verantwoordelijke ‘digitaal en technologie’ bij Taco Bell, gaf aan de Amerikaanse krant The Wall Street Journal toe dat de implementatie van spraak-AI de nodige uitdagingen met zich bracht. “Soms stelt het me teleur, maar soms verrast het me echt. We zijn als bedrijf veel aan het leren hierdoor, maar het is tijd om goed na te denken over hoe we AI in de toekomst willen inzetten. Ook de optie om de technologie niet meer te gebruiken in onze drive-throughs wordt bekeken. In sommige gevallen zijn mensen gewoon beter in staat om bestellingen op te nemen, vooral als het druk is.”

Tegelijk benadrukte Mathews dat de spraak-AI ook al meer dan twee miljoen bestellingen succesvol had afgewerkt.

McDonald’s​

Taco Bell is niet de enige fastfoodketen die worstelt met AI. Vorig jaar haalde ook McDonald’s de AI al uit zijn eigen drive-throughs, omdat de technologie de bestellingen van klanten verkeerd interpreteerde. Eén persoon kreeg zo per ongeluk spek aan zijn ijs toegevoegd en een andere kreeg per ongeluk kipnuggets ter waarde van honderden dollars aan zijn bestelling toegevoegd.

 

[JulianB]

https://www.nieuwsblad.be/buitenland/man-bestelt-18.000-waters-taco-bell-stopt-mogelijk-met-inzet-ai-na-absurde-fouten/86999913.html

Grappig... Het systeem crasht echter niet, maar het telefoontje wordt doorgeleid naar een mens. Om edge-cases op te vangen. Dit artikel kun je wel bestempelen als desinfo. Zie bijvoorbeeld de zin

Tegelijk benadrukte Mathews dat de spraak-AI ook al meer dan twee miljoen bestellingen succesvol had afgewerkt.

Dat betekent toch dat het werkt of begrijp ik het niet?

Ik verwacht niet dat je over 2 jaar nog een mens aan de telefoon krijgt bij de McDonald's of Taco Bell. De stand van de technologie is in 2025 wel even anders dan 2023

Dan de factor mens: mensen zullen blijven proberen systemen te saboteren en hier ook in slagen. Stel bijvoorbeeld bij zelfrijdende auto's voor dat dit veilig kan zonder slachtoffers te maken. Dit betekent concreet dat mensen op snelwegen gaan oversteken omdat machines MOETEN stoppen. Een mens mag iemand aanrijden (liever niet), een dronken mens wordt niet geaccepteerd. Maar een robot die iemand aanrijdt wordt absoluut niet getolereerd.

 

[Lievergezond]

Grappig... Het systeem crasht echter niet, maar het telefoontje wordt doorgeleid naar een mens. Om edge-cases op te vangen. Dit artikel kun je wel bestempelen als desinfo. Zie bijvoorbeeld de zin

Dat betekent toch dat het werkt of begrijp ik het niet?

Ik verwacht niet dat je over 2 jaar nog een mens aan de telefoon krijgt bij de McDonald's of Taco Bell. De stand van de technologie is in 2025 wel even anders dan 2023

Dan de factor mens: mensen zullen blijven proberen systemen te saboteren en hier ook in slagen. Stel bijvoorbeeld bij zelfrijdende auto's voor dat dit veilig kan zonder slachtoffers te maken. Dit betekent concreet dat mensen op snelwegen gaan oversteken omdat machines MOETEN stoppen. Een mens mag iemand aanrijden (liever niet), een dronken mens wordt niet geaccepteerd. Maar een robot die iemand aanrijdt wordt absoluut niet getolereerd.

Ingaand op het vetgedrukte: robots of AI is ook weer mensenwerk uiteindelijk en je houdt altijd het probleem van de fabrieksfouten en de onverwachte niet uitgedachte situaties.

Met zelfrijdende auto’s moet je daar toch niet aan denken: zie vorig bericht over spookremmen https://www.fatsforum.nl/threads/open-ai-chatgpt.4483/page-6#post-596672 bij auto’s.

Eerst zitten die fabrikanten tijdenlang in de ontkenning en er moeten eerst veel slachtoffers komen voor het probleem überhaupt pas aan het licht komt

Pas als de slachtoffers de krachten weten te bundelen op sociale media beginnen ze een rechtszaak en krijgen ze gelijk.

Ooit was er in de EU bijna sprake dat fabrikanten verantwoordelijk zouden zijn voor het voorkomen van ongelukken in de plaats dat er eerst zoveel slachtoffers moeten vallen

Gebruikers zijn proefkonijnen.