Klare Grenzen für Künstliche Intelligenz
AI Act: Europäisches Parlament verabschiedet weltweit erstes KI-Gesetz
Das Europäische Parlament hat heute den so genannten Artificial Intelligence Act verabschiedet. Das erste KI-Gesetz weltweit soll den sicheren Einsatz von KI und die Einhaltung grundlegender Rechte gewährleisten, gleichzeitig aber auch Sorge dafür tragen, dass der Ausbau entsprechender Lösungen nicht behindert wird.
Das Ende des vergangenen Jahres unter den Mitgliedstaaten ausgehandelte Regelwerk wurde von den Abgeordneten mit 523 Ja-Stimmen gebilligt. Lediglich 46 Abgeordnete sprachen sich bei 49 Enthaltungen gegen das KI-Gesetz aus.
Vorgaben für den sicheren KI-Einsatz
Die neuen EU-Vorgaben legen nun, immer in Abhängigkeit vom potentiellen Risiko, Vorgaben für die sichere Nutzung von KI-Systemen fest.
So sind unter den neuen Regelungen etwa bestimmte KI-Anwendungen verboten, wenn diese die Rechte europäischer Bürger einschränken könnten. Ausdrücklich verboten sind etwa biometrische Erkennungssysteme, wenn diese in Echtzeit arbeiten und in öffentlich zugänglichen Räumen eingesetzt werden sollen. Auch biometrische Kategorisierungssysteme, die Menschen anhand sensibler Merkmale (wie beispielsweise Geschlecht, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion oder der politischen Orientierung) erfassen und kategorisieren, sind in Europa nun untersagt.
Auch das Abschöpfen von biometrischen Merkmalen aus Überwachungssystemen und sozialen Medien, die Emotionserkennung an Arbeitsplätzen und der Aufbau von Gesichtserkennungs-Datenbanken sind fortan nicht mehr zulässig.
Ausdrücklich verboten sind:
- biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
- biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
- prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
- wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Klare Grenzen formuliert
Für den Einsatz von Biometrie-Systemen durch Strafverfolgungsbehörden gelten zusätzlich strenge Einschränkungen. Der Einsatz in „Echtzeit“ darf etwa nur in begründeten Ausnahmefällen erfolgen und muss zeitlich und geografisch begrenzt sein.
Für KI-Chatbots wie ChatGPT gelten jetzt Transparenzanforderungen. Von KI erstellte „Deepfakes“ sollen ab sofort kennzeichnungspflichtig sein.
Das neue KI-Gesetz befindet sich nach der Zustimmung durch das EU-Parlament jetzt in der abschließenden Überprüfung und wird 20 Tage nach seiner Veröffentlichung im Amtsblatt der EU in Kraft treten. Bereits nach sechs Monaten greifen die im Gesetz formulierten Verbote. Nach 24 Monaten müssen die Vorgaben dann von allen EU-Staaten umgesetzt worden sein.
Wir können wirklich froh sein in der EU zu leben und nicht zum Beispiel in China.
Ist das Ironie? In der EU wird betreutes Denken großgeschrieben. Der Unterschied ist lediglich, dass die Deutschen das auch noch toll finden. Vielleicht noch ein Überbleibsel aus vergangenen Tagen, wer weiß.
In DIESEM Zusammenhang würdest du es also gut finden an allen Ecken, grundlos und ständig, getrackt/erkannt zu werden?
Interessant…
Alleine durch dein „Betreutes Denken“ ist schon ein sinnloser Kommentar.
Manch einer könnte Betreuung gebrauchen, um überhaupt Denken zu können, statt irgendeinen Unsinn ohne Denken abzusondern.
Es ist wirklich erschreckend, wie sehr von Kreisen, die unbedingt Unruhe stiften wollen, zu allen möglichen Dingen einfach nur noch Blödsinn abgesondert wird, ohne jegliche Argumente, nur um Unruhe und Unfrieden zu stiften, in der Hoffnung, dass damit mehr Menschen ihr Kreuz bei rechtsextremen Parteien machen.
Wichtig, dagegen immer aufzustehen.
Es gibt an der EU und deren Institutionen sicherlich viel berechtigt zu kritisieren. Insgesamt ist die EU aber ein ziemliches Erfolgsmodell, dass gerade für Verbraucher viele Vorteile geschafft hat.
Ich nenne nur Niederlassungs- und Reisefreiheit, Euro, Reiserecht, Roaming, etc. Etc.
@khw: tl:dr
Er hat gar nicht so unrecht mit dem betreuten Denken. Nicht einmal die Neutralität der ÖR wird gewahrt.
Ich finde diese Gesetze nicht schlecht, aber was drohen denn für Strafen? 3 Tage Hausarrest oder 2 Wochen Freiheitsentzug auf Bewährung.
Ohoho, das schreckt ab!
Das ist ein Irrglaube das die ÖRR neutral zu berichten haben. Was die machen müssen ist ausgewogen zu Berichten, das ist vorgeschrieben.
Was Schizophren ist, im ÖRR hat die AFD die meisten Auftritte und trotzdem werd die ÖRR unberechtigt kritisiert von den neu Rechten.
Betreutes Lesen wäre vielleicht was für dich, Kai. Bei mehr als drei Zeilen hören deine Kapazitäten ja offenbar auf.
@Calziumcarbonat
+1
Wenn es die EU schon 1825 gegeben hätte, hätte sie wahrscheinlich die Höchstgeschwindigkeit von Eisenbahnen bei 20 km/h abgeriegelt. Viele glaubten damals nämlich, dass höhere Geschwindigkeiten für Menschen gesundheitsschädlich seien.
whataboutismus, ahoi!
Nenne mir ein Synonym für „in Relation setzen“: Whataboutism
Ja, genau :-D
Vielleicht wären uns auch nur 2 Weltkriege erspart geblieben.
Bravo !
Ich fürchte, whataboutism passt hier nicht. Aber man kann es ja mal versuchen. ;)
Naja, mancher Fortschritt ist zusätzliche Freiheit, anderer Fortschritt birgt die Gefahr einer Einschränkung der Freiheit
Das ist halt der Unterschied zwischen Glauben und Wissenschaft – wer Glauben möchte, dass 30km/h gesundheitsschädlich sind, wird das auch heute noch tun. Die Wissenschaft hat diese Annahme aber widerlegt und offenbar auch europaweit in der Gesetzgebung Anwendung gefunden.
Aha lustig
Hier es mal wieder das typische Thema: was ist Gesetz und was wird umgesetzt.
Letztlich werden die Behörden und andere es dann trotzdem nutzen, weil es einfach möglich ist. Da werden genügend Überwachungskameras im Hintergrund alles nutzen was geht
Klar. Und der zuständige Sachbearbeiter oder Abteilungsleiter wird dann schön illegal die Kameras zu seiner eigenen Befriedigung installieren lassen obwohl es illegal ist. Weil er ja weiß dass ihm niemand was kann weil er ja zu denen ‚da oben‘ gehört. Und verknackt wird er auch nicht. Total logisch.
Die wahren Bedrohungen, nämlich KI im Darknet und durch feindliche Regierungen, kann man damit ohnehin nicht verbieten
„Feindlich“ gesonnene Angriffe scheren sich zumeist einen Dreck um die Gesetze. Von daher kann man sie natürlich verbieten, oder sich verbitten, aber aufhalten kann man sie nicht mit einem Verbot.
Oh, oh, oh…da würde ich mal FB/Meta genauestens auf die Finger schauen da sie diese Daten bestimmt schon seit längerem auswerten…
Generell finde ich diese EU Vorgabe prima.
biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
>
Im Nachhinein darf es also genutzt werden wenn es der Strafverfolgung dient und richterlich Genehmigt ist, an sich zwar gut bringt aber der Vorbeugung auch wieder nichts. Heißt im Klartext, statt dass im Vorhinein ein Gefährder in der Fußgänger Zone durch so ein KI System nicht entdeckt werden darf und entsprechend auch nicht dann markiert für die Verfolgt, man wartet also wieder bis was passiert und sucht in Nachhinein ewig bis man Ihn wieder findet.
Immerhin setzen Sie sich mit dem Sachverhalt auseinander, egal wie „gut“ oder „schlecht“ das Gesetz sein wird…
Es wäre doch schön wenn sämtliche Ideologie aus KI verschwindet und nur sachliche Informationen erlaubt sind. Dazu zählt „Eine Bombe wird wiefolgt gebaut“ genauso wie „Die besten kostenfreien Pornoseiten lauten“ und alles dazwischen und außerhalb. Demokratisiertes Wissen ohne Moral. Das sollte beim Menschen bleiben mit alle. Vor- und Nachteilen.
Diese strenge Regelungen sind selbstverständlich nur für „Normalbürger“ relevant. Politische, kriminelle, radikale, … Absichten , scheren sich sowieso einen Dreck drum.
„Was haben die Römer jemals für uns getan?“, diese Frage beschäftigt in „Das Leben des Brian“ eine revolutionäre Zelle in Judäa, die den Aufstand gegen die imperialistischen Römer plant. Nach kurzer Diskussion fällt den Revolutionären dann doch einiges ein. „In Ordnung, aber was haben die Römer, abgesehen von den sanitären Einrichtungen, der Medizin, der Bildung, dem Wein, der öffentlichen Ordnung, der Bewässerung, den Straßen, dem Frischwassersystem und der öffentlichen Gesundheit, jemals für uns getan?“ – „Den Frieden gebracht!“ – „ACH FRIEDEN!?!“
das Leben des Brian ist ein gutes Beispiel. Aus Prinzip dagegen. Das Bestimmteerden von oben, von jemandem der „nicht von uns“ ist.
Tatsächlich hat die EU mehr Vorteile als Nachteile,
Und jeder Einzelne darf zwar für sich entscheiden, ob erdas gut findet, was da entschieden wurde.
Bei dem AIAct ist die EU mal schnell aktiv gewesen, und niemand sagt: das ist jetzt in Stein gemeißelt für die nächsten 34 Jahre