bvvp - Blog

von Hermann Mezger

• 4. Februar 2025
• Digitalisierung
• Gesellschaft
• Medien
• Zukunft
• Forschung
• Künstliche Intelligenz
• Social Media
• Psychische Gesundheit
• Metaprofile
• Psychotherapie
• Datenschutz
• Internetnutzung

Liebe Kolleginnen und Kollegen,

die neuesten Pläne des Meta-Konzerns kann man einfach zur Kenntnis nehmen und zur Tagesordnung übergehen. Wer allerdings Zeit hat, um seine Nachdenklichkeit auszuleben, mag dabei auf merkwürdige Gedanken kommen.

Worum geht es?

Der Social-Media-Konzern Meta sieht eine Zukunft vor, in der KI-generierte Profile neben menschlichen Nutzern auf Facebook und Instagram aktiv sind. Erste Werkzeuge dafür sind bereits im Einsatz. Der Konzern erwartet in den kommenden Jahren eine weitreichende Integration von KI-generierten Charakteren in seine sozialen Netzwerke. Wie Connor Hayes, Vizepräsident für generative KI bei Meta, gegenüber der Financial Times erklärt, sollen diese KI-Accounts wie menschliche Profile funktionieren – inklusive eigener Biografien, Profilbilder und der Fähigkeit, Inhalte zu erstellen und zu teilen. Zitat Hayes: „Wir gehen davon aus, dass diese KIs im Laufe der Zeit tatsächlich auf unseren Plattformen existieren werden, so wie es auch bei Konten der Fall ist“. Seit Juli 2024 sei in den USA bereits ein KI-Charakter-Tool verfügbar, mit dem Hunderttausende KI-Charaktere erstellt wurden. Die meisten dieser Profile würden von ihren Erstellern allerdings bisher privat gehalten. Der Konzern sieht in der Integration von KI eine Chance, seine Apps „unterhaltsamer und attraktiver“ zu machen. Dazu müsse die KI-Interaktion sozialer werden. Dies wird als Priorität für die nächsten zwei Jahre betrachtet.

Stellt sich die Frage: Wenn diese KI-Accounts erst einmal tatsächlich „wie menschliche Profile funktionieren […], inklusive eigener Biografien, Profilbilder und der Fähigkeit, Inhalte zu erstellen und zu teilen“ – ja, was dann?

Jeder, der sich einmal damit herumgeschlagen hat, eigene Skripte für seinen Rechner zu programmieren, hat die Erfahrung gemacht, dass sein Programm manchmal merkwürdige Dinge veranstaltet. Im harmloseren Fällen bleibt es hängen oder stürzt ab. Mitunter freilich produziert es auch schlichtweg Unsinn. Je komplexer Programme im Lauf der weiteren Entwicklung werden, desto schwieriger kann es also werden, unübersichtliche Ergebnisse noch als artifiziellen Quatsch zu erkennen.

Die von Meta geplanten Persönlichkeitsprofile sollen ja nicht einfach nur Pappkameraden bleiben, sondern sie sollen eine Art Eigenleben entwickeln, damit sie „unterhaltsamer und attraktiver“ sind. Die Eine oder der Andere unter Ihnen wird sicherlich den Film „Ich bin dein Mensch“ gesehen haben, der in eine verkorkste Liebesgeschichte einmündet. Ganz amüsant, jedenfalls solange man nicht selbst beteiligt ist oder an den Folgen zu leiden hat.

Je dynamischer und wirklichkeitsnäher solche artifiziellen Profile gewünscht werden, desto mehr wird man ihr Eigenleben auch mit inneren Widersprüchlichkeiten ausstatten müssen, damit der Umgang mit ihnen für die Kunden von Meta nicht schnell langweilig wird. Vielleicht wird es deshalb nicht allzu lang dauern, bis die daraus zu erwartenden inneren Konflikte der Profile auch in eine entsprechende Symptomatik einmünden. So eine Symptomatik könnte im Umgang in einem neurotischen Sinn nervig und frustrierend sein, sie könnte ihre Umgebung auch – entsprechend einer Persönlichkeitsstörung – schädigen, oder sie führt – im psychosomatischen Formenkreis – zu Funktionsstörungen der Hardware. Kann ein virtuelles Profil womöglich auch depressiv werden, womöglich echt suizidal? Und was passiert dann?

Wer wird für die Bearbeitung derartiger Schwierigkeiten zuständig sein? Die Software-Entwickler? Oder würden hier nicht eher Fälle für Psychotherapeuten entstehen, meinetwegen auch für Fachpsychotherapeuten für virtuelle Persönlichkeiten? Und wer wäre dann als Kostenträger zuständig? Die Haftpflichtversicherungen der Software-Entwickler würden jede Verpflichtung zurückweisen. Zahlte dann der Eigentümer des betreffenden Persönlichkeitsprofils, so wie der Hundehalter beim Tierarzt?

Was geschieht, wenn das Persönlichkeitsprofil infolge fortgesetzten Lernens einen immer höheren Bildungsstand erreicht, eine schnellere Auffassungsgabe entwickelt und kognitiv kompetenter wird als sein – unübersehbar alternder – Besitzer? Sollte man dem Profil dann nicht auch eine gewisse Geschäftsfähigkeit zubilligen? Kann der Besitzer manche Heimlichkeiten des Profils noch hinreichend überwachen? Denn vielleicht beginnt dieses über kurz oder lang fremdzugehen? Könnte (oder sollte) das virtuelle Profil vielleicht zu irgendeinem Zeitpunkt besser die Vormundschaft für seinen Besitzer übernehmen? Allerdings wissen wir nicht, wieviel Schusseligkeit oder wieviel spielerischer Sadismus dem Profil von seinem Entwickler mit in die Wiege gelegt wurde, und wieviel Bösartigkeit und Destruktivität sich womöglich daraus entwickelt? Könnte es sich rächen, wenn es von seinem Besitzer missachtet oder anderweitig gekränkt wird?

Fragen über Fragen. Um Ihre Geduld nicht überzustrapazieren, will ich die Reflexionen jedoch nicht auf die Spitze treiben.

Immer wieder drängt sich mir allerdings die Ballade des alten Geheimrats in Weimar auf, der die skizzierte Problematik bereits 1798 in seinem Zauberlehrling mit bemerkenswerter Hellsicht vorausgesehen hat. Viele von uns Älteren haben sie einmal auswendig gelernt, freilich ohne damals zu ahnen, wie bedeutsam sie noch einmal werden würde:

„Hat der alte Hexenmeister sich doch einmal wegbegeben,
und nun sollen seine Geister auch nach meinem Willen leben!

[…] [ wenig später:]
 
Oh, du Ausgeburt der Hölle!

Soll das ganze Haus ersaufen?

Seh ich über jede Schwelle

Doch schon Wasserströme laufen.
Ein verruchter Besen, der nicht hören will.
Stock, der du gewesen, steh‘ doch endlich still!

[…]
 
Ach, da kommt der Meister!

Herr, die Not ist groß!
Die ich rief, die Geister
Werd’ ich nun nicht los!“

Unter diesem Blickwinkel würde ich mir eine regelmäßige Supervision all der Programmierer wünschen, die sich mit künstlicher Intelligenz beschäftigen, und zwar bitte durch jemand mit sehr viel Erfahrung und Weisheit.

Was auf die psychotherapeutischen Kolleginnen und Kollegen zukommt, wird noch sehr spannend werden – nicht zuletzt wegen des Bestrebens der Krankenkassen, Behandlungskosten einzusparen. Schon seit Längerem werden ja animierte Algorithmen unter die Leute gebracht im Sinne einer „virtuellen Psychotherapie“. (Nach dem Motto: Mit Schuhgröße 38 für alle Frauen und 43 für alle Männer müsste doch – im Durchschnitt – allen geholfen sein.) Die Programmierer sind jedenfalls schon lang aus ihren Startlöchern heraus, und die Krankenkassen scharren förmlich vor Ungeduld mit den Hufen.

• facebook