KI kann fast alle Fragen beantworten, die ihr stellt, doch es ist auch viel Unsinn dabei. Jetzt kann ChatGPT wohl endlich zugeben, dass sie von einem Thema keine Ahnung hat. Und das ist eine wichtige Änderung für den Einsatz von künstlicher Intelligenz.
Große Sprachmodelle (LLMs) haben eine lange Diskussion hinter sich, wenn es darum geht, die Wahrheit zu sagen. Denn wer schon einmal mit künstlicher Intelligenz gearbeitet hat, der weiß, dass künstliche Intelligenz zu Halluzinationen neigen: Irgendwann erfindet der Chatbot Fakten, Daten oder sogar Zitate.
Nun berichtet das englischsprachige Magazin Techradar davon, dass Kol Tregaskes auf X.com eine wichtige Veränderung im Gespräch mit KI gepostet hat. Denn ChatGPT 5.0 gibt von sich aus zu, keine Ahnung zu haben oder eine Antwort nicht zu wissen.
Und das ist eine Fähigkeit, die bereits Kinder mit 4-5 Jahren entwickeln, berichtet etwa Kindergesundheit-info.de.
Autoplay
Anstatt Dinge zu erfinden, kann die KI zugeben, dass sie keine Informationen hat
Was ist das Problem an Erfindungen? Halluzinationen sind seit der Einführung der Technologie vor einigen Jahren ein Problem für KI-Chatbots. Das große Problem ist jedoch ein anderes: Die KI zeigt unabhängig von der Richtigkeit ihrer Antworten immer das gleiche Maß an Selbstvertrauen. Sie bietet euch falsche Informationen und erfundene Zitate an, auch wenn diese möglicherweise völlig falsch oder erfunden sind. Diese werden jedoch nicht als erfunden markiert, KI bietet euch diese fehlerhaften Informationen wie korrekte Inhalte an.
Die Gründe für solche Halluzinationen können vielfältig sein, erklärt etwa das Fraunhofer-Institut: Fehlerhafte Datenquellen oder eine Trainingsmethode kann schnell dazu führen, dass eine KI Unsinn von sich gibt.
Warum ist die neue Antwort so wichtig? Ein offenes Eingeständnis der Unwissenheit ersetzt fiktive Füllwörter. Auf den ersten Blick mag das enttäuschend sein, dass die KI keine perfekte oder richtige Antwort nennen kann. Das Zugeständnis lässt KI aber viel vertrauenswürdiger erscheinen und reduziert die Chance für erfundene Antworten.
Vertrauen ist wichtig, da viele Nutzer die Antworten von künstlicher Intelligenz immer wieder infrage stellen oder sogar schon auf falsche Informationen hereingefallen sind.
Ein KI-Tool löscht binnen Sekunden die Arbeit eines Entwicklers aus. Die KI hatte alle Sicherungen ignoriert und eigenmächtig gehandelt. Die KI erklärte selbst, dass es sich um einen katastrophalen Fehler handle und die Daten nicht wiederhergestellt werden können: Eine KI ignoriert sämtliche Maßnahmen und löscht die gesamte Arbeit eines Entwicklers in Sekunden eigenmächtig aus
Der Beitrag ChatGPT 5 hat einen Satz gelernt, den die meisten 5-Jährigen können, doch für KI ist er völlig neu erschien zuerst auf Mein-MMO.