Grandios wie die Supermarktkette dann meint die Schuld auf ein paar Scherzkekse zu schieben.
Wenn eure scheiß KI nicht in der Lage ist zu erkennen dass es keine tödlichen Cocktails anbieten soll, wie lange dauert es dann bis es jemandem mit Allergie fälschlich versichert dass gekochte Erdnüsse keinen anaphylaktischen Schock auslösen.
Und dann gibt es auch noch den Elefanten im Raum: Selbst wenn man das überlebt, ich glaube nicht, dass ein technisches System, das Chlorgas essbar findet, wirklich die Fähigkeiten hat dir ein leckeres Rezept vorzuschlagen.
Die fragwürdigen (wenn auch nicht giftigen) Kreationen der App waren überhaupt erst der Grund, warum Leute angefangen haben, Haushaltsmittel als Zutaten einzugeben.
das Chlorgas essbar findet, wirklich die Fähigkeiten hat dir ein leckeres Rezept vorzuschlagen.
Nicht unbedingt. Intelligenzen (nicht nur künstliche) funktionieren bei Dingen, von denen sie Ahnung haben gut, können aber auch Empfehlungen zu Dingen geben, von denen sie nichts verstehen. Die Trainingsdaten hier werden ziemlich sicher nichts mit Bleichmittel beinhaltet haben, aber neuronale Netzwerke daran zu hindern dann immer noch ein Ergebnis zu liefern ist anscheinend nicht so einfach.
So wie ich das verstanden habe, hat die KI aus vom Nutzer vorgegebenen Zutaten ein “schmackhaftes” Rezept kreiert. Wenn du angibst, dass du Erdnüsse als Zutat verwenden willst, dann darf die KI ja wohl davon ausgehen, dass du weißt, ob du Erdnüsse verträgst oder nicht. Dasselbe für Bleichmittel. Allenfalls könnte man eine Liste von Zutaten definieren, bei deren Verwendung die App dann davor warnt, dass sie allergieauslösend oder gänzlich ungenießbar seien. Das hat allerdings mit KI nicht viel zu tun sondern ist eine reine Datenbankabfrage.
Naja, wenn die KI zum Beispiel nachfragt ob man unter Umständen eine Zutat da hat für ein bestimmtes Gericht, dann kann man schon in diese Falle tappen.
Außerdem ist die Limitierung völlig vergessen worden, die App wurde ohne anscheinende Blacklist veröffentlicht, ein schwerwiegender Fehler, einen denn man nicht so einfach mit ‘kann man ja patchen’ abtun sollte.
Ist halt die Frage, von welchem Verhältnis von Nutzer und KI man ausgeht.
Für mich ist KI ein Kind mit einer blühenden Fantasie. Sag ihm, es soll sich irgendwas ausdenken, und es sagt Dinge, die dir selber nie in den Sinn gekommen wären. Viele davon sind Unsinn, darum braucht es natürlich immer noch einen Erwachsenen (der User!), der entscheidet, was tatsächlich umgesetzt wird.
Für manche Leute ist KI aber anscheinend der Führer, der befiehlt, und sie folgen ihm blind, und wenn die ganze Sache in die Hose geht, reden sie sich damit raus, dass sie ja nur Befehle ausgeführt hätten. Diesen Leuten kann ich auch nicht helfen; aus ihrer Unmündigkeit müssen sie schon selbst herausfinden.
Wenn man sich daran erinnert wie vor ein paar Monaten ein Anwalt ChatGPT für die Recherche nutzte und keine von den Fällen nachgeprüft hatte, sollten wir uns glaube ich nochmal doppelt überlegen KI für die Erstellung von Anleitungen zur Essenszubereitung zu nehmen
Das Blöde ist, dass es Lebensmittel gibt, die nur bei bestimmter Zubereitung gegessen werden können. Grüne Bohnen sind zum Beispiel giftig, wenn sie nicht ordentlich gekocht werden.
Grüne Bohnen sind zum Beispiel giftig, wenn sie nicht ordentlich gekocht werden.
._.
KI wird uns umbringen, aber anders als wir denken. Und ja, die Leute haben die KI bewusst aufs Glatteis geführt. Andererseits gibt’s auch Leute, die Pferdeentwurmungsmittel schlucken und Bleiche spritzen.
Hebt den Darwin Award auf ein ganz neues Level
Ich hatte heute morgen keine Zeit den Artikel zu lesen und habe nur die Überschrift gesehen und bin einfach davon ausgegangen dass das Ganze in den USA passiert ist. Dann schaue ich nochmal nach und sehe, dass es tatsächlich in Neuseeland (da wo ich wohne) passiert ist. 😂 Im Nachhinein wundert mich das eher wenig, hier wird so einiges ohne Fachwissen zusammengeschustert. Das geht vom Hausbau über Datenbanken und natürlich zu Software.
Ich verstehe den Sinn der App nicht. Unterscheiden, welche Lebensmittel zusammenpassen und welche nicht, kann sie offensichtlich nicht (und wenn sie das könnte, würde sie Zutaten wie Bleichmittel und Klebstoff erst gar nicht akzeptieren). Um irgendwelche Lebensmittelreste zusammen zu werfen, braucht man keine App.
Es scheint mittlerweile eine Liste zu geben, was Lebensmittel sind und was nicht. Jedenfalls werden Rezepte mit Bleiche abgelehnt.
