Welche Bedenken gibt es im Zusammenhang mit KI und sind einige der Warnungen „Quatsch“?

Aug 21, 2023

Ein Experte sagt gegenüber Sky News, dass es wichtig sei, auf die möglichen Schäden durch KI „zu achten“, und behauptet, es sei „nicht klar“, ob Regierungen wissen, wie sie die Technologie auf sichere Weise regulieren können.

Nachrichtenreporter @OliveLineham

Dienstag, 30. Mai 2023, 20:08 Uhr, Vereinigtes Königreich

Der rasante Aufstieg der künstlichen Intelligenz (KI) gibt nicht nur Anlass zur Sorge bei Gesellschaften und Gesetzgebern, sondern auch bei einigen Technologieführern, die im Mittelpunkt ihrer Entwicklung stehen.

Einige Experten, darunter die„Pate der KI“ Geoffrey Hinton, haben gewarnt, dass KI ein ähnliches Problem darstelltGefahr des menschlichen Aussterbens wie Pandemien und Atomkrieg.

Vom Chef der Firma hinter ChatGPT bis zum Leiter des KI-Labors von Google haben über 350 Menschen gesagt, dass die Minderung des „Risikos des Aussterbens durch KI“ eine „globale Priorität“ sein sollte.

Obwohl KI lebensrettende Aufgaben übernehmen kann, etwa Algorithmen, die medizinische Bilder wie Röntgenaufnahmen, Scans und Ultraschalluntersuchungen analysieren, geben ihre schnell wachsenden Fähigkeiten und ihre immer weiter verbreitete Verwendung Anlass zur Sorge.

Wir werfen einen Blick auf einige der wichtigsten – und warum Kritiker sagen, dass einige dieser Befürchtungen zu weit gehen.

Desinformation und KI-veränderte Bilder

KI-Apps sind auf Social-Media-Seiten viral gegangen, wobei Benutzer gefälschte Bilder von Prominenten und Politikern posten und Studenten ChatGPT und andere „Sprachlernmodelle“ verwenden, um Aufsätze auf Universitätsniveau zu erstellen.

EinsallgemeinDie Besorgnis über KI und ihre Entwicklung betrifft KI-generierte Fehlinformationen und deren mögliche Verwirrung im Internet.

Der britische Wissenschaftler Professor Stuart Russell sagte, eine der größten Sorgen seien Desinformation und sogenannte Deepfakes.

Hierbei handelt es sich um Videos oder Fotos einer Person, deren Gesicht oder Körper digital verändert wurde, sodass sie wie eine andere Person aussieht – typischerweise werden sie in böswilliger Absicht oder zur Verbreitung falscher Informationen verwendet.

Bitte verwenden Sie den Chrome-Browser für einen besser zugänglichen Videoplayer

Prof. Russell sagte, obwohl Desinformation schon seit langem zu „Propaganda“-Zwecken im Umlauf sei, bestehe der Unterschied nun darin, dass er am Beispiel von Sophy Ridge den Online-Chatbot GPT-4 bitten könne, zu versuchen, sie so zu „manipulieren“, dass sie es sei „weniger unterstützend für die Ukraine“.

Letzte Woche ein gefälschtes Bildschien eine Explosion in der Nähe des Pentagons zu zeigenDie Behauptung verbreitete sich kurzzeitig in den sozialen Medien viral und hinterließ bei Faktenprüfern und der örtlichen Feuerwehr große Anstrengungen, der Behauptung entgegenzuwirken.

Es schien, dass das Bild, das angeblich eine große schwarze Rauchwolke neben dem US-Hauptquartier des Verteidigungsministeriums zeigen sollte, mithilfe von KI-Technologie erstellt wurde.

Es wurde zuerst auf Twitter gepostet und schnell von verifizierten, aber gefälschten Nachrichtenkonten weiterverbreitet. Faktenprüfer stellten jedoch bald fest, dass es im Pentagon keine Explosion gegeben hatte.

Aber es werden einige Maßnahmen ergriffen. Im November bestätigte die Regierung, dass das Teilen pornografischer „Deepfakes“ ohne Zustimmung nach der neuen Gesetzgebung strafbar sein wird.

Übersteigt die menschliche Intelligenz

Bei KI-Systemen handelt es sich um die Simulation menschlicher Intelligenzprozesse durch Maschinen – aber besteht die Gefahr, dass sie sich so weit entwickeln, dass sie die menschliche Kontrolle überschreiten?

Professor Andrew Briggs von der Universität Oxford sagte gegenüber Sky News, es bestehe die Befürchtung, dass mit zunehmender Leistungsfähigkeit der Maschinen der Tag „kommen“ könnte, an dem ihre Leistungsfähigkeit die der Menschen übersteigt.

Bitte verwenden Sie den Chrome-Browser für einen besser zugänglichen Videoplayer

Er sagte: „Im Moment wird alles, was die Maschine optimieren soll, von Menschen ausgewählt, und es kann zum Schaden oder zum Guten ausgewählt werden. Im Moment ist es der Mensch, der darüber entscheidet.“

„Es besteht die Befürchtung, dass mit zunehmender Intelligenz und Leistungsfähigkeit der Maschinen der Tag kommen könnte, an dem die Kapazität die von Menschen bei weitem übersteigt und der Mensch die Fähigkeit verliert, die Kontrolle darüber zu behalten, was die Maschine zu optimieren versucht.“

Weiterlesen:Was ist GPT-4 und wie wird es verbessert?

Er sagte, dass es deshalb wichtig sei, auf die Möglichkeit von Schäden zu achten, und fügte hinzu, dass „mir und keinem von uns klar ist, dass Regierungen wirklich wissen, wie sie dies auf eine sichere Weise regulieren können“.

Aber es gibt auch eine Reihe anderer Bedenken im Zusammenhang mit KI – einschließlich ihrer Auswirkungen auf die BildungExperten warnen vor Essaysund Arbeitsplätze.

Bitte verwenden Sie den Chrome-Browser für einen besser zugänglichen Videoplayer

Nur die neueste Warnung

Zu den Unterzeichnern der Erklärung des Center for AI Safety gehörten Herr Hinton und Yoshua Bengio – zwei der drei sogenannten „Paten der KI“, die für ihre Arbeit zum Thema Deep Learning den Turing Award 2018 erhielten.

Die heutige Warnung ist jedoch nicht das erste Mal, dass Technologieexperten Bedenken hinsichtlich der KI-Entwicklung äußern.

Im März, ElonMusk und eine Gruppe von Experten für künstliche Intelligenzforderte eine Pause bei der Ausbildung leistungsstarker KI-Systeme aufgrund der potenziellen Risiken für Gesellschaft und Menschheit.

Der vom gemeinnützigen Future of Life Institute herausgegebene und von mehr als 1.000 Menschen unterzeichnete Brief warnte vor potenziellen Risiken für die Gesellschaft und Zivilisation durch mit Menschen konkurrierende KI-Systeme in Form wirtschaftlicher und politischer Störungen.

Es forderte einen sechsmonatigen Stopp des „gefährlichen Wettlaufs“ um die Entwicklung leistungsfähigerer Systeme als das neu eingeführte GPT-4 von OpenAI.

Früher diese Woche,Rishi Sunak traf sich auch mit dem CEO von Google um darüber zu diskutieren, „das richtige Gleichgewicht“ zwischen KI-Regulierung und Innovation zu finden. Downing Street sagte, der Premierminister habe mit Sundar Pichai darüber gesprochen, wie wichtig es sei, sicherzustellen, dass die richtigen „Leitplanken“ vorhanden seien, um die technische Sicherheit zu gewährleisten.

Bitte verwenden Sie den Chrome-Browser für einen besser zugänglichen Videoplayer

Sind die Warnungen „Quatsch“?

Obwohl einige Experten der Aussage des Center for AI Safety zustimmen, haben andere in diesem Bereich die Vorstellung vom „Ende der menschlichen Zivilisation“ als „Unsinn“ bezeichnet.

Pedro Domingos, Professor für Informatik und Ingenieurwesen an der University of Washington, twitterte: „Zur Erinnerung: Die meisten KI-Forscher halten die Vorstellung, dass KI die menschliche Zivilisation beenden würde, für Unsinn.“

Herr Hinton antwortete und fragte, was Herr Domingos vorhabe, um sicherzustellen, dass die KI „uns nicht manipuliert, damit wir ihr die Kontrolle überlassen“.

Der Professor antwortete: „Sie werden bereits jeden Tag von Leuten manipuliert, die nicht einmal so schlau sind wie Sie, aber irgendwie geht es Ihnen immer noch gut. Warum also gerade die große Sorge um die KI?“