Yuval Noah Harari oder auch Elon Musk warnen: Künstliche Intelligenz könnte dem Menschen in nicht allzu ferner Zukunft gefährlich werden. Was unterscheidet ihrer Meinung nach heutige Formen künstlicher Intelligenz von unserer menschlichen? Den Unterschied macht das „in unseren Leib integrierte Bewusstsein“. Als Säugetiere ist unsere Identität – unser ganzes Erleben – als intelligente, kreative Lebewesen untrennbar mit dieser Körper-Existenz verbunden. Deshalb verstehen wir nicht nur abstrakt, dass ein Sonnenuntergang ein oft erwünschtes, positives Bild ist. Sondern wir erleben dieses Bild als positiv (oder auch kitschig) weil wir zugleich alle Erlebnisse von Sonnenuntergängen unseres Lebens erinnern. Denn jede und jeder hat eine ganz einzigartige Historie und ein ganz eigenes Erleben (durch Genetik oder Epigenetik). Wir verstehen also dieses Bild als Situation nicht nur, sondern wir wissen genau, wie sich so ein Sonnenuntergang an einem lauen Abend am Meer anfühlt. Genau das ist der Grund, weshalb wir auch einen Willen haben. Wir wollen in den Urlaub fahren, auch wenn wir z.B. kein Geld mehr haben :-). Oder wir wollen eben ein Bild kreieren um uns dann dieses in dem Bild manifestierte Gefühl über das Sofa zu hängen.

Erst wenn wir es schaffen der KI über z.B. Sensoren ein eigenes Körper-Erleben (Emotionen) und damit eine eigene Historie (Tod), also ein eigenes Bewusstsein zu geben, wird sie zu einem menschenähnlichen Akteur, der selbst etwas wollen kann. Der Menschheit entsteht dann allerdings auch ein Konkurrent, der überlegen sein könnte.