Das Netzwerk hinter der neuen AI-Aufsicht
Die aktuelle Debatte dreht sich offiziell um gefährliche Models. Mindestens genauso interessant sind jedoch die Lebensläufe, Beziehungen und Geldflüsse der Menschen, die künftig über diese Gefahr urteilen sollen.
Dario Amodei schlägt vor, externe Evaluatoren dauerhaft in die führenden AI-Labs einzubetten. Diese Teams sollen mitarbeiterähnlichen Zugang erhalten, interne Prozesse überprüfen und Vorfälle öffentlich melden. Als mögliches Beispiel nennt er METR.
METR-Gründerin Beth Barnes arbeitete zuvor bei DeepMind und OpenAI. Anschließend leitete sie ARC Evals, das Evaluationsteam des Alignment Research Center. ARC wurde von Paul Christiano gegründet, der zuvor bei OpenAI das Alignment-Team leitete und gemeinsam mit Dario Amodei zu AI Safety forschte. Inzwischen sitzt Christiano als Beobachter im Board der OpenAI Foundation und gehört deren Safety and Security Committee an.
Auch privat überschneiden sich die Kreise. Christiano ist mit Ajeya Cotra verheiratet, die heute bei METR arbeitet und zuvor das technische AI-Safety-Programm von Coefficient Giving leitete. Daniela Amodei, Anthropics Präsidentin und Darios Schwester, ist wiederum mit Holden Karnofsky verheiratet. Karnofsky gründete unter anderem Open Philanthropy, heute Coefficient Giving, und arbeitet inzwischen selbst bei Anthropic.
Das sind keine geheimen Verbindungen. Sie beweisen weder Korruption noch eine koordinierte Verschwörung. Aber sie zeigen, wie klein der Kreis ist, aus dem Unternehmen, Forscher, Geldgeber und mögliche Aufseher stammen.
METR erklärt, kein Geld von Frontier-AI-Unternehmen oder deren Mitarbeitern anzunehmen. Gleichzeitig erhält die Organisation kostenlose Model-Tokens von den Unternehmen, deren Systeme sie untersucht. METR räumte außerdem selbst ein, dass bei einer Untersuchung mindestens sechs beteiligte Personen enge persönliche Beziehungen zu Mitarbeitern der geprüften AI-Labs hatten. Ein vollständiger Prozess für personelle Interessenkonflikte existierte zu diesem Zeitpunkt noch nicht.
Auch die derzeit kursierende Behauptung, METR werde direkt aus Anthropics Vermögen finanziert, ist nicht belegt. Die viel geteilte Finanzgrafik zeigt ein dichtes Netzwerk aus Stiftungen, Investoren und Safety-Organisationen. Ihre eigene Dokumentation hält allerdings fest, dass kein direkter Geldfluss von Good Ventures oder Coefficient Giving zu METR gefunden wurde. Die Netzwerknähe ist real. Die behauptete finanzielle Steuerung ist es bislang nicht.
Hinzu kommt die politische Ebene. Anthropic hat 2026 insgesamt 40 Millionen Dollar an Public First Action gegeben. Kurz darauf startete die Organisation ein 15-Millionen-Dollar-Projekt, das republikanische Politiker unterstützt, die strengere AI-Regeln befürworten. Anthropic betont, dass seine Spenden ausschließlich für Aufklärung und politische Bildungsarbeit bestimmt seien und nicht direkt zur Unterstützung von Kandidaten verwendet werden dürften.
Damit kann aus einer vernünftigen Sicherheitsanforderung unbeabsichtigt eine Markteintrittsbarriere werden. Noch problematischer wäre es, wenn die größten Anbieter selbst mitbestimmen, wer sie prüft, nach welchen Kriterien geprüft wird und welche Unternehmen überhaupt als verantwortungsvolle Frontier Labs gelten.
Mein Unbehagen entsteht deshalb nicht aus einem einzelnen Geldfluss. Es entsteht aus der Kombination: Menschen aus demselben beruflichen Umfeld definieren die Risiken, entwickeln die Prüfmethoden, führen die Prüfungen durch, finanzieren politische Aufklärung und übernehmen anschließend Positionen in Unternehmen, Stiftungen oder Kontrollgremien.
Alle Beteiligten können dabei vollkommen ehrlich handeln. Trotzdem kann ein geschlossenes System entstehen, in dem sich dieselben Annahmen immer wieder gegenseitig bestätigen.
METR kann fachlich hervorragende Arbeit leisten. Anthropic kann berechtigte Sicherheitsbedenken haben. Beides beantwortet aber noch nicht die Frage, ob dieses konkrete Konstrukt genug Abstand zwischen Unternehmen, Prüfern, Geldgebern und Politik schafft.
Unabhängigkeit ist kein Label, das man sich selbst gibt. Sie entsteht erst durch nachvollziehbare Strukturen.
Zur Einordnung: Amodeis Vorschlag, METRs Finanzierung, METRs Angaben zu Interessenkonflikten, Paul Christianos OpenAI-Rolle und Anthropics Zahlung an Public First Action.
| 
