\u00dcbersetzung und einleitende Gedanken zum Originalartikel von Steven Sinofsky<\/p>\n\n\n\n
https:\/\/hardcoresoftware.learningbyshipping.com\/p\/233-the-illusion-of-thinking-thoughts<\/a><\/p>\n\n\n\n Falls du dich einigermassen mit der Entwicklung der Informatik in den letzten Jahren besch\u00e4ftigt hast und dabei KI nicht als spontanen Eintritt in die Erdatmosph\u00e4re wahrgenommen hast, wird dir dieser Artikel trotzdem helfen (wieder) einen klaren Ausgangspunkt zu erlangen. <\/p>\n\n\n\n Auf technischer Ebene stellt das Papier wichtige Fragen und beantwortet sie auf \u00e4usserst interessante Weise.<\/p>\n\n\n\n Die Studie wurde von Apple-Forschern, darunter einem Praktikanten, verfasst. \u201eDie Illusion des Denkens: Die St\u00e4rken und Grenzen von Denkmodellen anhand der Problemkomplexit\u00e4t verstehen\u201c <\/em>von Parshin Shojaee\u2020, Iman Mirzadeh, Keivan Alizadeh, Maxwell Horton, Samy Bengio und Mehrdad Farajtabar (\u2020 war Praktikant). Vollst\u00e4ndiger Link zur Studie: https:\/\/machinelearning.apple.com\/research\/illusion-of-thinking<\/a><\/p>\n\n\n\n Ich konnte nicht anders, als zu dem Schluss zu kommen, dass das grosse Problem nicht darin besteht, was die LLMs tun, sondern in der unglaublichen \u201eHybris\u201c, die den KI-Bereich der Informatik seit seinen Anf\u00e4ngen kennzeichnet.<\/p>\n\n\n\n Nachtrag <\/strong>: Viele KI-Untergangstheoretiker \u2013 so nennen sie sich selbst nicht \u2013 haben sich auf dieses Papier gest\u00fcrzt, um ihre Behauptungen zu untermauern. Obwohl es technisch gesehen stimmt, waren ihre Hauptsorgen nicht, dass Modelle nicht denken oder schlussfolgern, sondern dass Modelle die Menschheit autonom vernichten k\u00f6nnen. Das ist ein grosser Unterschied. Die Untergangstheoretiker sollten dieses Papier nicht als Beleg f\u00fcr ihre \u00fcbertriebenen Bedenken heranziehen.<\/p>\n\n\n\n W\u00e4hrend die fr\u00fchesten Visionen von Computeranwendungen (sogar seit Memx <\/a>) von \u201eriesigen elektronischen Gehirnen\u201c handelten, entstand das KI-Feld mit der Pionierarbeit an \u201eneuronalen Netzwerken\u201c. Zun\u00e4chst ging es um die Simulation des Gehirns \u2013 daher stammt auch der Begriff \u201eK\u00fcnstliche Intelligenz\u201c. In vielerlei Hinsicht lag darin eine naive Unschuld, sowohl in der Informatik als auch in der Neurowissenschaft. Schliesslich waren es die 1950er Jahre. Siehe Dartmouth Workshop <\/a>.<\/p>\n\n\n\n Doch dann, nach f\u00fcnf Jahrzehnten voller falscher Versprechungen und gescheiterter Bem\u00fchungen \u2013 bekannt als \u201e KI-Winter <\/a>\u201c \u2013 entschieden sich Innovatoren, ihre Arbeit durch die Vermenschlichung von KI zu kommunizieren. Nach neuronalen Netzwerken entstand mit Eliza der erste Chatbot. Die Robotik konzentrierte sich auf \u201ePlanung\u201c. Dann kam die \u201enat\u00fcrliche Sprache\u201c. Es folgten die ersten Versuche im Bereich \u201eComputer Vision\u201c. Einer meiner Favoriten waren \u201eExpertensysteme\u201c, die uns glauben machen wollten, wir k\u00f6nnten einfach \u201edas Wissen der Menschen\u201c in ein lineares Programmiersystem \u201ekodieren\u201c und damit alles M\u00f6gliche tun, von der Heilung von Krebs bis zur Analyse von Unternehmensumsatzdaten.<\/p>\n\n\n\n Mit dem Wiederaufleben neuronaler Netze in den 2010er Jahren \u2013 und der Arbeit, die Google zuvor an allen m\u00f6glichen Bereichen von Fotos bis hin zu Karten geleistet hatte \u2013 wurde der Begriff \u201eMaschinelles Lernen\u201c popul\u00e4r. Die Idee, die in diesem Begriff steckte, war, dass Maschinen lernten. Ja, in gewisser Weise lernten sie \u2013 aber nicht im menschlichen Sinne.<\/p>\n\n\n\n Der Grund f\u00fcr die KI-Winter lag darin, dass die Erwartungen der Realit\u00e4t weit voraus waren. Zwar blieben viele Konzepte bestehen und wurden entweder zu Produkten oder als Bausteine \u200b\u200bweiterverwendet, doch die massive Entt\u00e4uschung blieb unvergessen. Viele waren von KI entt\u00e4uscht, und ein wichtiger Grund daf\u00fcr war, dass das Feld die ganze Zeit \u00fcber so von sich selbst eingenommen schien.<\/p>\n\n\n\n Sicherlich erging es auch anderen Bereichen der Informatik so. Die objektorientierte Programmierung war ein grosser Misserfolg, was einen Quantensprung in der Programmierung angeht. Soziale Schnittstellen scheiterten an der Benutzerfreundlichkeit. Das \u201eSemantische Web\u201c kam und ging. \u201eParalleles Rechnen\u201c funktionierte nie wirklich. Sehr zum Entsetzen meines Abteilungsleiters wurden Programme nie bewiesen oder formal verifiziert. Und so weiter.<\/p>\n\n\n\n Die Misserfolge der KI waren so gravierend, dass die Forschung darauf verzichtete, F\u00f6rdermittel gestrichen wurden und nur noch wenige Fakult\u00e4ten sie \u00fcberhaupt lehrten \u2013 schon gar nicht als Pflichtfach. Die wenigen, die durchhielten, waren Randgruppen. Und daf\u00fcr sind wir nat\u00fcrlich dankbar!<\/p>\n\n\n\n Mit LLMs und Chatbots nahm die Anthropomorphisierung richtig Fahrt auf. Modelle lernten; sie recherchierten; sie verstanden; sie nahmen wahr; sie waren unbeaufsichtigt. Bald wurde allen klar, dass Modelle \u201ehalluzinierten\u201c. Fr\u00fcher hiess es \u201eder Computer lag falsch\u201c, wenn er einen falschen Rechtschreibvorschlag machte oder eine Suche ein seltsames Ergebnis lieferte. Doch pl\u00f6tzlich bedeutete der Einsatz von KI, dass das Ergebnis gleichbedeutend mit \u201eder Wahrnehmung von etwas Nichtvorhandenem\u201c war \u2013 aber es ist Software; sie nahm nichts wahr. Sie lieferte nur ein falsches Ergebnis.<\/p>\n\n\n\n Agenten w\u00fcrden ohne menschliche Interaktion agieren. Selbst Begriffe wie \u201eVoreingenommenheit\u201c oder \u201eAuswahl\u201c sind h\u00f6chst menschlich (denken Sie an all die Humanstudien, die sich nicht einmal darauf einigen k\u00f6nnen, was Voreingenommenheit in der Praxis bedeutet), und dennoch wurden diese Begriffe auf LLMs angewendet. In j\u00fcngster Zeit wurde \u00fcber LLMs als L\u00fcgner oder als jemanden gesprochen, der \u201esein eigenes \u00dcberleben plant\u201c, wie die M-5.<\/p>\n\n\n\n Und nat\u00fcrlich das Ultimative \u2013 k\u00fcnstliche allgemeine Intelligenz. KI w\u00e4re nicht nur menschlich, sondern w\u00fcrde das Menschsein \u00fcbertreffen.<\/p>\n\n\n\n Erst dieses Wochenende hat sich ein Unternehmen mit einem LLM f\u00fcr ein neues \u201eVerfassungsrecht\u201c (meine Worte) ausgesprochen, das Modellbenutzern \u201ePrivilegien\u201c garantieren w\u00fcrde, wie wir sie bei Psychologen oder Anw\u00e4lten haben.<\/p>\n\n\n\n Die Absurdit\u00e4t des Gedankens, wir k\u00f6nnten ein digitales Werkzeug auf diese Weise vermenschlichen \u2013 obwohl wir nicht einmal das Privileg haben, \u00fcber ein Textverarbeitungsprogramm zu verf\u00fcgen, mit dem wir unsere tiefsten Gedanken aufschreiben k\u00f6nnen \u2013 ist, gelinde gesagt, peinlich.<\/p>\n\n\n\n Ich h\u00e4tte gern mehr Privatsph\u00e4re und habe mich daf\u00fcr eingesetzt, aber in keinem Universum ist das, was ich einem LLM sage, wichtiger oder auch nur anders als jedes andere digitale Tool.<\/p>\n\n\n\n Unterwegs gab es Skeptiker, aber angesichts einiger wahnsinnig cooler Technologien und neuer Produkte klangen sie wie Maschinenst\u00fcrmer.<\/p>\n\n\n\n Ich wiederhole es noch einmal: Die Technologie und die Produkte sind so cool, dass sie Generationen \u00fcberdauern. Sie ver\u00e4ndern die Welt. Das alles passiert gerade. Der n\u00e4chste grosse Trend ist da. Wir wissen nicht, wie er sich entwickelt oder wohin er f\u00fchrt. Es ist wie das Internet 1994. Aber es ist <\/em>wie 1994. Viele sind vorgeprescht. Es wird Zeit brauchen.<\/p>\n\n\n\n In der Zwischenzeit muss die Vermenschlichung der KI aufh\u00f6ren. Sie schadet dem Fortschritt. Sie verwirrt die Menschen. Sie verursacht Stress. Sie ist nicht real.<\/p>\n\n\n\n Die Verwendung dieser anthropomorphisierenden Terminologie hatte drei wichtige Auswirkungen, die nicht alle positiv waren:<\/p>\n\n\n\n Es gibt eine bekannte Dynamik, die seit jeher in der Computertechnik existiert: Wenn Menschen mit Computern interagieren, neigen sie dazu, dem Computer zu glauben. Dies wurde in zahlreichen Blindtests best\u00e4tigt, insbesondere in Stanford-Studien der 1990er Jahre.<\/p>\n\n\n\n Dies fiel schon bei den ersten Interaktionen mit Eliza auf. Schon in den 1980er-Jahren war bekannt, dass man bei einer falschen Kreditkartenabrechnung oder einem falschen Kontostand standardm\u00e4ssig dem Computer die Schuld gab \u2013 und dann annahm, man <\/em>habe etwas \u00fcbersehen.<\/p>\n\n\n\n Die Forschung wurde 1996 in dem Buch \u201eThe Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places\u201c von Byron Reeves und Clifford Nash <\/em>ausf\u00fchrlich dokumentiert . Ich empfehle dringend, dieses Buch zu lesen. Es hatte grossen Einfluss auf unsere Herangehensweise an die Entwicklung von Office, einschliesslich aller \u201eagentenbasierten\u201c Funktionen wie AutoKorrektur und nat\u00fcrlich Clippy und seiner nat\u00fcrlichsprachlichen Schnittstelle namens \u201eAntwortassistent\u201c.<\/p>\n\n\n\n Nat\u00fcrlich ist es gef\u00e4hrlich, zu glauben, dass Computer Recht haben \u2013 aber es liegt in der Natur des Menschen, sich auf vermeintliches Fachwissen zu verlassen.<\/p>\n\n\n\n Wir haben beim Bau des guten alten Microsoft Clippy viel gelernt. Eine davon war, bescheiden zu sein. Der Grund f\u00fcr die fr\u00f6hliche B\u00fcroklammer lag genau darin, dass wir wussten, <\/em>dass Clippy nicht perfekt war. Wir wussten, dass wir einen Weg brauchten, die Leute davon zu \u00fcberzeugen, nicht <\/em>alles zu glauben, was es vorgab.<\/p>\n\n\n\n Nat\u00fcrlich hatten wir damit recht \u2013 nur die H\u00e4ufigkeit, mit der wir bei 4 MB RAM, 40 MB Festplattenspeicher und ohne Netzwerk richtig liegen w\u00fcrden, war falsch. Mehr dazu gibt es hier bei Clippy, The F*cking Clown,<\/a><\/em> falls es dich interessiert.<\/p>\n\n\n\n KI ist wunderbar. Sie ist eine absolute Riesensache. Aber sie ist \u2013 heute und in absehbarer Zukunft \u2013 ein Werkzeug <\/em>. Sie ist ein Werkzeug unter menschlicher Kontrolle. Sie ist ein Werkzeug, das von Menschen benutzt wird. Sie ist ein Werkzeug, kein Mensch. Die Tatsache, dass sie einige Aspekte des Menschen zu imitieren scheint, verleiht ihr nicht diese menschlichen Eigenschaften.<\/p>\n\n\n\n Aus diesen und weiteren Gr\u00fcnden sollten wir uns vor KI nicht f\u00fcrchten oder uns Sorgen machen, abgesehen von der Frage, wie Werkzeuge genutzt, missbraucht oder zweckentfremdet werden k\u00f6nnen. Das gilt beispielsweise f\u00fcr VisiCalc auf einem Apple, Word unter Windows, Netscape und das Internet.<\/p>\n\n\n\n Der Mensch hat das Sagen. \u00dcbersetzung und einleitende Gedanken zum Originalartikel von Steven Sinofsky https:\/\/hardcoresoftware.learningbyshipping.com\/p\/233-the-illusion-of-thinking-thoughts Falls du dich einigermassen mit der Entwicklung der Informatik in den letzten Jahren besch\u00e4ftigt hast und dabei KI nicht als spontanen Eintritt in die Erdatmosph\u00e4re wahrgenommen hast, wird dir dieser Artikel trotzdem helfen (wieder) einen klaren Ausgangspunkt zu erlangen. Zu Beginn ein wichtiger Begriff: Anthropomorphisierung … <\/p>\n
Zu Beginn ein wichtiger Begriff:
Anthropomorphisierung<\/strong> <\/em>(Vermenschlichung) bedeutet, menschliche Eigenschaften, Emotionen, Absichten oder Motivationen auf nichtmenschliche Wesen, Objekte oder Ph\u00e4nomene zu \u00fcbertragen.<\/p>\n\n\n\n
\n\n\n\nDas Papier und seine Pr\u00e4misse<\/strong><\/h3>\n\n\n\n
\n\n\n\nDie Urspr\u00fcnge der menschlichen Metaphern der KI<\/strong><\/h3>\n\n\n\n
\n\n\n\nMaschinelles Lernen nimmt zu, und die Erwartungen steigen<\/strong><\/h3>\n\n\n\n
\n\n\n\nAnthropomorphisierung des LLM: Die neue Welle<\/strong><\/h3>\n\n\n\n
\n\n\n\nDie Absurdit\u00e4t der Humanisierung von Werkzeugen<\/strong><\/h3>\n\n\n\n
\n\n\n\nZur Erinnerung: Dies sind Werkzeuge, keine Lebewesen<\/strong><\/h3>\n\n\n\n
\n\n\n\nDie Kosten der Anthropomorphisierung von KI<\/strong><\/h3>\n\n\n\n
KI war endlich da. KI war immer noch ein Jahrzehnt entfernt. Jetzt funktioniert sie. Durch die Verwendung menschlicher Begriffe konnten sich die Leute leicht vorstellen, was Chat\/LLMs tun \u2013 ohne sie jedoch tats\u00e4chlich in Aktion zu sehen oder nur das zu sehen, was in kurzen Clips, Posts oder Pods gezeigt wurde.<\/li>
Anthropomorphisierte KI implizierte, dass sie wie Menschen kontrolliert werden m\u00fcsse \u2013 mit Gesetzen und Vorschriften. Schlimmer noch: Man ging davon aus, dass sie die schlimmsten <\/em>Aspekte des Menschen in sich vereinen w\u00fcrde, zudem schneller, intelligenter und unerbittlicher. Die KI-Sicherheitsbewegung entstand aus leicht formulierten Bedenken gegen\u00fcber anthropomorphisierter KI. Wenn KI intelligent und <\/em>voreingenommen oder AGI und autonom w\u00e4re, m\u00fcsste <\/em>sie kontrolliert werden. Nichts birgt ein gr\u00f6sseres Risiko f\u00fcr unsere technologische Zukunft als die zu weitreichende Anwendung des Vorsorgeprinzips auf KI.<\/li>
Wir sind wieder genau dort, wo wir in den vorherigen KI-Wintern waren \u2013 mit dem Risiko, dass alles aufgrund der Diskrepanz zwischen Erwartungen und Realit\u00e4t auseinanderf\u00e4llt. Diese Diskrepanz ist die Ursache f\u00fcr die Unzufriedenheit der Kunden.<\/li><\/ol>\n\n\n\n
\n\n\n\nDas haben wir schon einmal erlebt<\/strong><\/h3>\n\n\n\n
\n\n\n\nLehren von Clippy: Bescheidenheit im Design<\/strong><\/h3>\n\n\n\n
\n\n\n\nKI ist ein Werkzeug \u2013 und das ist gut so<\/strong><\/h3>\n\n\n\n
\n\n\n\nLetzter Gedanke: Werkzeuge, nicht K\u00f6pfe<\/strong><\/h3>\n\n\n\n
KI ist nicht menschlich.
KI denkt nicht.
Sie verst\u00e4rkt, unterst\u00fctzt, abstrahiert und mehr.<\/strong>
So wie es Werkzeuge schon immer getan haben.<\/p>\n","protected":false},"excerpt":{"rendered":"