Miles Brundage, Leiter der Politikforschung bei OpenAI, hat das Unternehmen verlassen. Nach 6 Jahren und 3 Monaten bei OpenAI beriet er Führungskräfte und den Vorstand von OpenAI zur Bereitschaft für die allgemeine künstliche Intelligenz (AGI). Nextbigfuture beleuchtet, was Miles für die AGI-Bereitschaft als notwendig erachtet. Er stimmt zu, dass die Welt mehr Nutzen aus der rasanten Entwicklung der KI ziehen muss.
Nvidia-CEO Jensen Huang beschreibt, wie xAI (und Tesla AI) in der Lage sind, die besten GPU-Chips fast ein Jahr schneller zu installieren als Unternehmen wie OpenAI und Meta. xAI betreibt ein Nvidia H100 AI-Rechenzentrum mit 100.000 Einheiten, das 3 Monate vor Meta und Microsoft in Betrieb genommen wurde.
Miles plant, eine gemeinnützige Organisation zu gründen oder einer beizutreten und sich auf KI-Politikforschung und -advocacy zu konzentrieren. Er glaubt, dass KI ohne gemeinsame Anstrengungen nicht so sicher und vorteilhaft sein wird wie möglich.
Er schlägt vor, ein gemeinsames Verständnis der Vor- und Nachteile von KI zu schaffen sowie schnelle Fortschritte in Sicherheits- und Politikforschung zu erzielen. Weitere Anreize für ausreichende Sicherheit sollten geschaffen werden, indem hochriskante Entwicklungen reguliert werden. Öffentliche Meinung sollte stärker in private Entscheidungen einbezogen werden.
Um die epistemische Gemeinschaft nicht zu verschmutzen, sollte in informierte öffentliche Diskussionen investiert werden. Gesellschaftliche Verteidigungsmechanismen sollten verbessert werden, um sich auf mögliche Bedrohungen durch KI vorzubereiten.
Alles Positive im Bereich KI passiert aufgrund des Marktes. Viele KI-Anwendungen haben zweifelhaften Wert. Es wird empfohlen, asymmetrische Vorteile der Menschheit gegenüber zukünftigen fehlgeleiteten KIs zu nutzen.