KI-Nutzung im Militär: OpenAI-Managerin kündigt wegen Pentagon-Auftrag

Im Streit über die Zusammenarbeit von ​OpenAI mit dem US-Militär hat eine hochrangige Managerin bei dem KI-Entwickler gekündigt. Caitlin Kalinowski, die bei OpenAI im Bereich Robotics für Hardware und operative Themen zuständig war, gab ihren Rücktritt auf der Plattform X bekannt. Sie ​begründete dies mit Bedenken über ⁠den jüngsten Auftrag des US-Verteidigungsministeriums. OpenAI habe ​sich nicht genügend Zeit genommen, bevor es der Nutzung seiner KI-Modelle in ‌den ⁠geheimen Cloud-Netzwerken des Ministeriums ​zugestimmt habe, kritisierte die Managerin.

OpenAI hatte Ende Februar eine Einigung mit dem Militär bekannt gegeben, ​nachdem nur kurz zuvor US-Präsident Donald Trump die Bundesbehörden angewiesen hatte, Geschäfte mit dem eigentlichen Vertragspartner, dem OpenAI-Rivalen Anthropic, einzustellen. Anthropic hatte Garantien dafür gefordert, dass seine KI nicht für vollständig autonome Waffen oder zur Massenüberwachung in den USA eingesetzt wird. Das Verteidigungsministerium, ⁠das von Trump ​als Kriegsministerium bezeichnet wird, hatte dem aber nicht zustimmen wollen.

Frage nach den Sicherheitsleitplanken

“KI ‌spielt eine wichtige Rolle ‌für die nationale Sicherheit”, schrieb Kalinowski. “Aber die Überwachung ​von Amerikanern ohne richterliche Aufsicht und tödliche Autonomie ohne menschliche Autorisierung sind Grenzen, die mehr Überlegung verdient hätten, als ​sie bekommen haben.” Der Deal sei verkündet worden, ohne dass die nötigen Sicherheitsleitplanken definiert worden seien. Es handele sich dabei in erster ‌Linie um ein Problem der Unternehmensführung, hieß es ​in einem weiteren Beitrag. Solche Entscheidungen seien zu wichtig, um ⁠sie zu überstürzen. ​Kalinowski war erst 2024 zu OpenAI ‌gewechselt, nachdem sie zuvor bei Meta Platforms die Hardwareentwicklung für Erweiterte Realität (AR) geleitet hatte.

OpenAI wies die ‌Kritik zurück. Das Unternehmen bekräftigte, seine “roten Linien” würden den ​Einsatz der Technologie für inländische Überwachung oder autonome Waffen ausschließen.

Transparenzhinweis: In einer früheren Version dieses Textes hieß es, Caitlin Kalinowski sei Leiterin der Abteilung Robotik und Hardware bei Open AI gewesen. Nach Angaben des Unternehmens verantwortete Kalinowski Hardware sowie operative Themen innerhalb der Robotics-Division, war aber nicht deren Leiterin. Die Abteilung Robotics leitet bei OpenAI Aditya Ramesh, die Anteilung Consumer Hardware Peter Welinder.