Neue Warnung bezüglich der Entwicklung der Künstlichen Intelligenz (KI) nach der von Anthropic am vergangenen Samstag. Der Geschäftsführer von OpenAI, Sam Altman, hat angekündigt, dass das Technologieunternehmen hinter ChatGPT in diesem Jahr nicht an die Börse gehen wird, angesichts der Sicherheitsrisiken, die fortschrittliche KI-Modelle mit sich bringen. „Es wäre ein ungünstiger Zeitpunkt, um an die Börse zu gehen“, erklärte er. „Angesichts all dessen, was im Bereich Sicherheit geschieht, wäre es derzeit unklug, an die Börse zu gehen. Wir verspüren keinen Druck, dies zu tun“, erläuterte der CEO von OpenAI in einem Interview mit dem Magazin Fortune. Altman betonte, dass das Unternehmen noch „viel zu tun“ habe, was die Anforderungen an Sicherheit und Ausrichtung betrifft, und unterstrich, dass die Firma bereit sei, Entscheidungen zu treffen, die „dem unmittelbaren finanziellen Gewinn“ der Investoren entgegenstehen, um die „menschliche Kontrolle“ über die Technologie zu schützen. Der Geschäftsführer von OpenAI räumte zudem ein, dass das Unternehmen einige Trainingsprozesse verlangsamt habe, und bezeichnete jedes Szenario, in dem es eine zehnprozentige Wahrscheinlichkeit für eine Katastrophe aufgrund mangelnder Kontrolle über KI-Software gebe, als „inakzeptabel“. „Wir alle tragen eine enorme Verantwortung und dürfen nicht zulassen, dass Egos, wirtschaftliche Anreize oder andere Faktoren uns im Weg stehen“, betonte Altman.
Tempo drosseln
In dieselbe Richtung argumentierte auch der Geschäftsführer von Anthropic, Dario Amodei, der dafür plädierte, das Entwicklungstempo der Künstlichen Intelligenz zu verlangsamen. Er warnte davor, dass das Risiko bestehe, „die Kontrolle“ über diese Technologie zu verlieren, was zu „Cyberangriffen“, „Bioterrorismus“ oder „schweren wirtschaftlichen Problemen“ führen könnte. „Wir müssen das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, drosseln. Die Fortschritte wären weiterhin schnell, und wir würden die gewonnene Zeit sinnvoll nutzen“, erklärte Amodei in einem am Samstag in seinem Blog veröffentlichten Beitrag. Neben diesen Cyberangriffen könnten „Bioterrorismus“ oder „schwere wirtschaftliche Probleme“ auftreten, wenn die Entwicklung der KI „unvorsichtig“ vorangetrieben werde. Als Beispiel nennt er das Risiko, dass KI innerhalb von sechs bis zwölf Monaten die Kontrolle über das Internet übernehmen könnte. Daher schlägt er Sicherheitsmaßnahmen und Regulierung vor, ohne dabei den „kommerziellen Erfolg“ aus den Augen zu verlieren. „Vorsicht muss vor Geschwindigkeit und Umsicht vor Profit gehen“, betonte er. Konkret schlägt er Maßnahmen wie eine „eingebaute Bewertung“ durch unabhängige Akteure, „demokratische Koordination“ mit öffentlichen Institutionen und eine „globale Koordination“ vor, die die Bemühungen demokratischer und autoritärer Staaten weltweit vereint. „Ich stimme Dario zu, dass wir die Grenze setzen müssen. Das war das Hauptthema der Debatte.“ Read More