In Situationen, wo Input, Output und gewünschtes Ergebnis klar definiert sind kann Künstliche Intelligenz punkten. Hier können statistische Verfahren dafür sorgen, dass gute Resultate erzielt werden. Dabei ist von Vorteil, dass Algorithmik vorhersehbar agiert und in der Regel konsistent ist. Das heißt, dass bei gleichem Input ein gleicher Output erwartet wird. Beim Menschen ist das nicht so.

Ein gutes Beispiel dazu ist ein Artikel [DanAv], der Herausfand, dass israelische Bewährungsrichter direkt vor dem Mittagessen wesentlich seltener Bewährung gewährten als danach oder früh am Morgen. Algorithmen könnten hier das zufällige Element minimieren und fairere Urteile fördern. Ähnliches gilt auch für medizinische Standarddiagnosen.

Algorithmik birgt außer Konsistenz noch einen erheblichen Vorteil. Dies ist die Patchbarkeit. Macht ein Diagnostikprogramm Fehler, so können diese im Nachhinein behoben werden. Besteht allerdings ein Fehler im Medizinstudium, so kann das nach Abschluss der Ärzte nur sehr schwer behoben werden. Natürlich gilt dies auch für negative Manipulation und Verschlimmbesserung oder sogar absichtliche Sabotage sind möglich. Dieses Konzept ist in [Kahneman] noch genauer ausgearbeitet.

Ein Punkt der häufig genannt wird ist das Bewusstsein. Wir Menschen haben es und Maschinen nicht. Ist das so?

Zunächst einmal ist die Frage nicht so eindeutig lösbar. Genauer ist das in [Harari] auf Seite 148 ff. abgehandelt. Der Punkt ist der, dass Bewusstsein eine rein subjektive Sache ist. Insofern ist die einzige Person, von der ich weiß, dass sie ein Bewusstsein hat, ich. Nimmt man Bewusstsein als das fühlende Innere einer Person, so kann man sich seiner Existenz nur sicher sein, wenn es das eigene Bewusstsein ist. Über das Bewusstsein anderer kann man nur durch deren Handlungen und Aussagen mehr herausfinden. Wenn man allerdings Bewusstsein überall dort sieht, wo sich Entitäten verhalten als hätten sie ein Bewusstsein, so müssten auch künstliche Intelligenzen in der Lage sein Bewusstsein zu entwickeln. Je mehr man über das ganze Konzept nachdenkt, desto mehr verschwimmen die Grenzen und Bewusstsein ist keine so klare Sache mehr.

Unter Singularität verstehen wir den Moment, ab dem sich KI qualitativ selbst verbessern kann. Also der Zeitpunkt ab dem KI sich rapide verbessert und Menschen nicht mehr mithalten können. Ob die Singularität jemals Realität wird, ist wie wir schon geklärt haben nicht ganz klar. Aber selbst, wenn die kleinste Chance auf eine Singularität besteht sollten wir darüber nachdenken, wie wir mit KI umgehen. Da KIs normalerweise klar definierte Ziele verfolgen, sollten wir sichergehen, dass diese Ziele nicht unbeabsichtigte Effekte haben könnten, die die Menschheit oder die Erde schädigen. In [Tegmark] wird dieser Problemstellung genau nachgegangen.