Mit Link zum verabschiedeten Text, damit man vernünftig diskutieren kann. (Hier Englisch)
Die Begriffsbestimmung zum Anfang:
“KI-System” ein maschinengestütztes System, das für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können. (sic)
Hier ist ein Abschnitt, bei dem’s mir besonders hochkommt.
Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Sie haben die geeigneten statistischen Merkmale, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll. Diese Merkmale der Datensätze können auf der Ebene einzelner Datensätze oder auf der Ebene einer Kombination davon erfüllt werden.
Da ist noch einiges mehr von der Sorte. Es ist zum Haare raufen. Anscheinend wird man, für manche KI-Systeme, die Datensätze zertifizieren lassen müssen. Wie schafft es so etwas Gesetz zu werden?
KI in Europa hat man wohl allseits abgeschrieben. Wenn dann in Zukunft woanders die Weltklasse KIs gemacht werden, werden die natürlich auf Leistung optimiert und nicht auf willkürliche Anforderungen. In Europa gibt es dann Provinzklasse KIs aus teuren, zertifizierten Datensätzen. Ist nur Geld, zahlt der Kunde. Wenn die KI nicht funktioniert, macht ja nix. Alles zertifiziert, da gibt’s kein Schadenersatz.