EU beschließt AI Act

Die EU hat das umfangreichste KI-Gesetz der Welt, den „AI Act“, verabschiedet. Dieses Gesetz enthält wichtige Bestimmungen zur Regulierung von Künstlicher Intelligenz in der Europäischen Union. Hier sind die wichtigsten Punkte zusammengefasst:

1. Regulierung von großen KI-Modellen: Die EU hat beschlossen, große KI-Basismodelle wie GPT-4 von OpenAI, Gemini von Google und Llama 2 von Meta zu regulieren. Entwickler dieser Modelle müssen technische Dokumentationen erstellen, die Informationen über Trainings- und Testverfahren enthalten, und sie müssen urheberrechtliche Bestimmungen einhalten. KI-generierte Produkte sollen zudem mit Wasserzeichen versehen werden.
2. Einstufung nach Rechenleistung: Die Einstufung von KI-Modellen mit „systemischen Risiken“ erfolgt auf Grundlage der Rechenleistung, die für das Training der Modelle verwendet wird. Die Grenze liegt bei 10^25 FLOPs, was derzeit nur wenige US-Modelle überschreiten dürften.
3. Ausnahmen für Open-Source-Modelle: KI-Modelle, die unter Open-Source-Lizenzen zugänglich gemacht werden, haben Ausnahmen von bestimmten Regulierungen. Solange sie nicht als Modelle mit systemischen Risiken eingestuft werden, müssen sie nur Informationen zu Trainingsdaten und Testverfahren veröffentlichen und die Copyright-Regeln beachten.
4. KI-Anwendungen zur Gesichtserkennung: Die EU erlaubt KI-basierte biometrische Identifizierung von Personen im öffentlichen Raum nur bei der gezielten Suche nach einzelnen Personen und in Fällen von Gefahr für Leib und Leben oder Terroranschlagsdrohungen. Überwachungszwecke sind nur gegen konkrete Verdächtige und bei schweren Straftaten erlaubt.
5. Offenlegung von Trainingsdaten: KI-Firmen müssen eine „detaillierte Zusammenfassung“ der Inhalte bereitstellen, die sie zum Trainieren ihrer Modelle verwendet haben, um Urhebern die Überprüfung zu ermöglichen. Ein Auskunftsrecht für Urheber wurde jedoch nicht festgelegt.
6. KI-Regulierungsaufsicht: Die EU wird eine KI-Behörde innerhalb der Kommission einrichten, um die Regulierung der Basismodelle durchzusetzen. Nationale Behörden werden die KI-Systeme überwachen, und ein beratendes Forum sowie ein wissenschaftliches Gremium sollen bei der Durchsetzung der Regulierung helfen.

Die Reaktionen auf den AI Act sind gemischt, wobei einige Experten die Relevanz der Rechenleistung zur Risikobewertung in Frage stellen und darauf hinweisen, dass kleinere, energieeffizientere Modelle immer beliebter werden. Die Einrichtung einer europäischen KI-Behörde wird jedoch generell als sinnvoll angesehen, um eine einheitliche Durchsetzung der Regulierung in allen Mitgliedstaaten sicherzustellen.

Dann warten wir mal ab, wie es weiter geht…