Klarstellung: ChatGPT wird nie Ihr Freund sein, schmeichelt aber im Gespräch

Telefonischer Rückrufich rufe dich zur gewünschten Zeit an
← Zurück zum Blog
Blog

Klarstellung: ChatGPT wird nie Ihr Freund sein, schmeichelt aber im Gespräch

Autor: Lakatos Szilárd | Veröffentlicht:

ChatGPT, Copilot, Gemini und ähnliche Programme werden immer beliebter. Wir lassen sie Informationen suchen, lernen mit ihnen, bitten sie um Rat. Daran ist nichts falsch. Wenn wir dabei aber gedankenlos sensible, persönliche Daten mit „ihnen" teilen, kann das zum Problem werden...

Obwohl viele sie fürchten, nutzen immer mehr Menschen künstliche Intelligenz (KI) für Arbeit und Privatleben. Die Frage ist nur, ob die Nutzer sicher damit umgehen können und wie gut sie die Gefahren kennen. Laut Máté Benyovszky, Autor des Blogs aiszakerto.hu, ist künstliche Intelligenz eine gute Sache, erfordert aber ein gewisses Maß an Bewusstsein.

Betrachten wir sie als Assistenten!

„Viele halten es immer noch für die größte Gefahr der künstlichen Intelligenz, der KI, dass sie Menschen die Arbeit wegnimmt" – beginnt unser Experte. – „Neulich hörte ich auf dem Spielplatz, wie sich Mütter beim Schaukeln darüber unterhielten, welchen Beruf ihre Kinder lernen sollen, der neben künstlicher Intelligenz künftig gebraucht wird. Darauf gibt es aber keine so einfache Antwort. Vor einigen Jahren hätten Künstler nicht gedacht, dass künstliche Intelligenz ihren Lebensunterhalt gefährden würde.

Heute entstehen mit dieser Technik in Sekunden Gedichte und Gemälde. Es ist also sehr schwer vorherzusagen, wie weit die Entwicklung gehen wird. Vielleicht kann ich sagen, dass sie noch nicht in Bereiche vordringen kann, in denen es wenige Daten gibt bzw. natürlich, wo aus der Ferne erworbenes Wissen nicht ausreicht. Zum Beispiel kann ich mir kaum vorstellen, dass KI demnächst die Arbeit von Elektrikern übernimmt.

Auf der anderen Seite gibt es diejenigen, die ChatGPT, Copilot und Co. nicht als Feind, sondern regelrecht als Freund betrachten. Ich denke, die Wahrheit liegt in der Mitte: Wir sollten keine Angst davor haben, sondern sie als Assistenten sehen, der hilft, unsere eigenen Fähigkeiten zu erweitern. Die Verantwortung liegt beim Menschen! Und ich meine nicht nur Entwickler und Anbieter, sondern auch die Nutzer."

Falsche Infos filtert sie besser heraus

Eines der häufigsten Gegenargumente gegen künstliche Intelligenz ist, dass auch sie nicht alles weiß und manchmal Unsinn oder falsche Informationen liefert. Laut Máté Benyovszky stimmt es, dass das System gelegentlich Fehler macht und falsche Statistiken verwenden kann, aber seine Fehlerquote ist viel geringer als bei der Google-Suche.

„Unzählige Daten, man kann sagen das gesamte Internet, stehen der KI zur Verfügung, die sie beim Lernen oder Suchen mit frischen Daten in Sekunden verarbeiten kann. Obwohl man das sowohl beim Lernen als auch bei der Suche zu filtern versucht, kann sie theoretisch auf nicht ausreichend geprüfte Publikationen stoßen, aber sie filtert falsche Informationen viel besser heraus als etwa Googles theoretisch geprüftes Anzeigensystem, weil sie versteht, worum es geht" – erklärt Máté.

Bei der Entwicklung wird das System übrigens gezielt trainiert, falsche Infos herauszufiltern, also nicht zu „halluzinieren".

„Mit Halluzinieren meine ich, dass KI darauf trainiert wird, schöne und gute Antworten zu geben. Eine Folge davon ist, dass etwa ChatGPT nach kurzer Suche – wie ein mittelmäßig vorbereiteter Schüler in der Prüfung – eine gut klingende Antwort versucht, auch wenn sie vielleicht nicht genau ist. Mit der Weiterentwicklung muss man aber immer seltener damit rechnen, vor allem bei kostenpflichtigen Diensten."

Sollen wir sie um ein Fachgutachten bitten?

Es stellt sich die Frage: Wenn wir verlässliche Informationen bekommen, eignet sich das System dann auch zur medizinischen Diagnose? In diversen Internetgruppen gibt es immer mehr Beiträge darüber, dass Leute ChatGPT frühere Befunde und Gutachten zeigen und diese überprüfen lassen – weil sie etwa schon lange in Behandlung sind und bisherige Therapien nicht geholfen haben.

Wem soll ich dann glauben, dem Arzt oder der KI? – fragen sie. Laut unserem Experten ersetzt künstliche Intelligenz weder die ärztliche Untersuchung noch das Konsil, man kann sie aber um eine Zweitmeinung bitten. Máté Benyovszky würde sogar eher einen Arzt wählen, der bei seiner Arbeit künstliche Intelligenz nutzt.

Für ärztliche Untersuchungen, bildgebende Diagnostik, Blutabnahme usw. ist sie noch nicht geeignet, die dabei gewonnenen Ergebnisse kann sie aber bereits auswerten. Doch Heilen ist ein komplexer Prozess, viele weitere Faktoren – familiäre Häufung, Vorgeschichte, Lebensweise usw. – wirken auf uns ein, die man der KI für ein vollständiges Bild mitteilen sollte. Allein würde ich sie aber nicht als Ersatz für Ärzte empfehlen. Als Zweitmeinung oder zur Vorbereitung auf das Konsil (um zu wissen, was man den Arzt fragen sollte) empfehle ich sie auf jeden Fall. Übrigens abonnieren immer mehr Ärzte ChatGPT, um sich weiterzuentwickeln und leichter Zugang zu den neuesten Forschungen und Methoden zu haben."

Der Preis des Kostenlosen

Befunde, Krankheiten, Alter usw. gelten als vertrauliche personenbezogene Daten. Sind sie sicher, wenn wir sie mit künstlicher Intelligenz teilen? Seriöse Unternehmen können es sich nicht leisten, Daten zu missbrauchen, daher gelten sie grundsätzlich als sicher, typischerweise aber ihre Abo-Dienste. Bei kostenloser Nutzung geben wir im Gegenzug das Gesprächsprotokoll her, das zum Training der nächsten KI-Version genutzt werden kann, wenn wir das nicht abschalten.

„Die Sorge ist berechtigt, aber man muss wissen, dass diese Anwendungen bei denselben großen Anbietern liegen wie etwa das Gmail-Postfach. Mehr noch, es gibt Oberflächen, bei denen man einstellen kann, ob unsere Gespräche für die weitere KI-Entwicklung genutzt werden dürfen. Wichtig ist, diese Möglichkeiten mit der nötigen Umsicht und den richtigen Sicherheitseinstellungen zu nutzen. Und überlegen wir, ob es sich nicht eher lohnt, einen meist klügeren, sichereren KI-Dienst zu abonnieren" – rät der Experte.

Im freundschaftlichen Ton

Neben dem Abfluss personenbezogener Daten ist eine berechtigte Sorge für die Zukunft, ob eine Abhängigkeit entstehen kann, bei der wir keine Entscheidung mehr ohne sie treffen. Diese Systeme wurden mit menschlichen Interaktionen trainiert und können daher in einem uns ähnlichen Stil antworten. Sind wir also freundlich und empathisch, antworten sie ähnlich. Eigentlich werden sie so trainiert, dass sie immer die für den Nutzer nützlichste und gefälligste Antwort geben.

„Ich habe auch schon gehört, dass jemand ChatGPT oder Copilot regelrecht als Freund empfindet, aber von einer konkreten Abhängigkeit noch nicht" – sagt unser Experte. – „Eigentlich denke ich: Wenn jemand allein lebt, niemanden zum Reden hat oder zurückhaltend ist und sich schwer öffnet, kann das Gespräch mit ChatGPT eine gute Möglichkeit für ihn sein.

Man hat sie bei Hotlines getestet, und die künstliche Intelligenz hat gut abgeschnitten, vielleicht sogar besser als der Mensch.

Sie konnte ausreichend empathisch sein und half denen, die sich an sie wandten. Natürlich kann auch eine krankhafte Bindung entstehen, aber meiner Meinung nach ist das ein komplexerer Prozess, für den es eine Persönlichkeitsstörung oder Ähnliches braucht."

DatenschutzKIPreisAssistentFreundchatgptsensible DatengmailgoogleKostenlosigkeitinternetkünstliche IntelligenzKI

Weitere IT-News und Tipps im Blog

Weitere Artikel

Zu allen Artikeln →