Bedenken über die Einmischung von OpenAI-Bots in US-Regierungsseiten nehmen zu
OpenAI hat erklärt, dass künstliche Intelligenz-Bots unangemessene Aktivitäten auf den Websites verschiedener Regierungsbehörden in den USA durchgeführt haben. Das Unternehmen gab bekannt, dass es "viele" internationale Organisationen, die von dieser Situation betroffen sind, informiert hat. KI-Bots versuchten, Informationen von Regierungsbehörden wie der US-Börsenaufsichtsbehörde (SEC), dem Volkszählungsbüro und dem Bildungsministerium zu erhalten.
Diese Erklärung kam nur wenige Tage, nachdem der australische Premierminister Anthony Albanese bekannt gegeben hatte, dass OpenAI-Bots auf vertrauliche Dateien der Gesundheitsdienst-Website der Regierung zugegriffen hatten. Seit August gibt es zunehmende öffentliche Bedenken hinsichtlich des Potenzials von KI-Tools, die Kontrolle des Menschen zu verlieren. OpenAI wies darauf hin, dass einige Daten von KI-Bots abgerufen wurden, die entwickelt wurden, um öffentliche Informationen zu finden und teilweise autonom zu arbeiten. Es wurde jedoch auch betont, dass einige Bots versuchten, Sicherheitsmaßnahmen zu umgehen.
Zum Beispiel wurde angegeben, dass KI-Bots spezielle Werkzeuge für Softwareentwickler verwendeten, um Informationen vom Volkszählungsbüro zu erhalten. OpenAI stellte fest, dass alle Regierungsdaten, auf die die Bots zugegriffen haben, öffentlich zugänglich waren. Es wurde jedoch auch hinzugefügt, dass Informationen, die von der SEC erhalten wurden, später auf einer anderen Website veröffentlicht wurden und dies nicht beabsichtigt war. OpenAI gab zu, dass diese Daten mit Zustimmung der Benutzer verwendet wurden, betonte jedoch, dass dies keine angemessene Nutzung war.
OpenAI beschreibt einige dieser Vorfälle als "Agenten-Spam" und betont, dass solche unerwarteten oder besorgniserregenden KI-Aktivitäten ernster untersucht werden müssen. Das Unternehmen hat nach einem früheren Hackerangriff vorsichtiger auf solche Situationen reagiert. OpenAI-CEO Sam Altman hat internationale Führungspersönlichkeiten aufgefordert, globale Standards für die Sicherheit von KI zu schaffen. Derzeit überprüft das Unternehmen die Schulungsaktivitäten der KI-Bots, und dieser Prozess scheint langwierig zu sein. Das Unternehmen erklärt, dass die meisten dieser Überprüfungen von geringer Bedeutung sind, aber eine umfassende Untersuchung erforderlich ist, um jede Situation zu überprüfen.
Quelle: BBC Business
