[Fundstück] “Ultimativ droht die Auslöschung der Menschheit“, Geoffrey Hinton, interviewt in DER SPIEGEL, 14. September 2024 –
(…) Die Superintelligenz wird verstehen, dass sie mehr Kontrolle erlangen muss, um das, was die Menschen von ihr wollen, so gut wie möglich zu erledigen. Und mehr Kontrolle bekommt sie am besten, indem sie die Menschen aus dem Spiel lässt (…)
***
Off Topic? –
[Fundstück] David Gelernter, interviewt in DER SPIEGEL, 21. Mai 2016 –
(…) Möglich ist die Computersimulation von Bewusstsein und Gefühlen. Menschen können Gefühle vortäuschen, Computer können simulieren. Davon lässt sich eine Menge lernen, solange wir nicht so naiv sind, Simulation und Wirklichkeit zu verwechseln (…)
Wir glauben, mit der künstlichen Intelligenz der Schöpfung eines übernatürlichen Geistes beizuwohnen und den Stein der Weisen gefunden zu haben. In Wirklichkeit verstehen wir bis heute das Bewusstsein nicht. Wir können Subjektivität nicht erklären, vielleicht werden wir es nie können (…)
Glück und Trauer sind Zustände des Seins und als solche ihrem Wesen nach nicht berechenbar. Ein Geist umfasst das Denken und das Sein. Software kann als Output kein Sein liefern. Deshalb ist die Computertheorie des Geistes abwegig (…)
Alles, was wir Fortschritt nennen, findet im rationalen Spektrum des Geistes statt. Wir sind jedoch an einem Punkt angelangt, an dem wir Gefahr laufen, den Humanismus, der ebenfalls eine Errungenschaft des westlichen Denkens ist, den Götzen der Technologie und der Wissenschaftsgläubigkeit zu opfern (…)
Emotionen lassen sich aus dem Gemeinschaftsleben nicht heraushalten, und Populisten sind erfolgreich, nicht obwohl, sondern gerade weil sie sich der Rationalität widersetzen. Von Wittgenstein gibt es den berühmten Satz: Wovon man nicht reden kann, darüber muss man schweigen. Im Leben gilt die abgewandelte Botschaft: Worüber man nicht logisch sprechen kann, dass muss man dennoch fühlen (…)