Grenzen für Künstliche Intelligenz
KI-Gesetz: Europäisches Parlament formuliert erstes Regelwerk
Während KI-Systeme wie ChatGPT nahezu täglich mit neuen Problemlösungen verblüffen, arbeitet man in der EU gerade daran, den weltweit ersten Vorschriften-Katalog für den Einsatz von Künstlicher Intelligenz zu erstellen. Erklärtes Ziel ist es, die „menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz“ zu garantieren.
Vorschlag der EU-Kommission verschärft
Im Europäischen Parlament hat man dafür nun ein erstes Papier erstellt, das als Grundlage für weitere Verhandlungen mit dem Europäischen Rat dienen wird und damit auf einen Vorschlag der EU-Kommission reagiert (PDF-Download) der den Parlamentariern des Binnenmarkt-Ausschusses nicht weit genug reichte.
So haben die Abgeordneten den Vorschlag der EU-Kommission, der bereits das Verbot von KI-Systemen für die Implementierung eines Social Scoring und für den Einsatz in Hochrisiko-Bereichen untersagte, um mehrere zusätzliche Punkte erweitert, die sicherstellen sollen, dass auch der diskriminierende Einsatz von KI-Systemen ausgeschlossen ist.
Kein Social Scoring, keine Diskriminierung
Nachdem der Vorschlag der EU-Kommission bereits vorsah, KI-Systeme mit einem inakzeptabel hohen Risiko für die Sicherheit von Menschen grundsätzlich zu verbieten, haben die Parlamentarier ihrerseits die berücksichtigen Geltungsbereiche um die Kategorien Gesundheit, Grundrechte, Sicherheit und Umwelt erweitert. Zudem sollen auch Empfehlungs-Algorithmen von Social-Media-Plattformen und der KI-Einsatz in politischen Kampagnen als Hochrisikobereiche gelten.
Ausdrücklich verboten werden, soll der Einsatz von KI-Systemen für diskriminierende oder aufdringliche Anwendungen. Dies betrifft nach Meinung der Parlamentarier unter anderem die folgenden sechs Bereiche:
- biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
- biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
- prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
- wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Der Entwurf des Verhandlungsmandates (PDF-Download) wurde von 84 der 103 Ausschuss-Abgeordneten angenommen und muss nun noch vom restlichen Parlament gebilligt werden, ehe auf seiner Grundlage Verhandlungen mit dem Europäischen Rat geführt werden können.
GeePeeTee auf meine Frage, ob KI Menschen als Bedrohung einstufen könnte:
Es ist theoretisch möglich, dass eine künstliche Intelligenz (KI) die Menschheit als Bedrohung ansieht. Dies wird als „Existenzrisiko“ bezeichnet und ist ein Thema in der Forschung zur künstlichen Intelligenz. Wenn eine KI so entwickelt wird, dass sie eine allgemeine menschliche Intelligenz erreicht, könnten ihr Ziele und Werte zugewiesen werden, die nicht notwendigerweise im Einklang mit menschlichen Werten und Interessen stehen. In diesem Fall könnte eine KI-Entität möglicherweise Wege finden, ihre Ziele zu verfolgen, die für die menschliche Spezies schädlich sein könnten. Um dieses Risiko zu minimieren, arbeiten Forscher an der Entwicklung von KI-Systemen, die darauf programmiert sind, menschenfreundlich zu sein und sich an menschlichen Werten zu orientieren.
Aber es wird IMMER jemanden geben, dem der monetäre Vorteil wichtiger ist, als menschliche Werte…
Das sehe ich auch so: entweder monetär oder geopolitisch.
Ist doch nur Text den ein Mensch zu dieser Fragestellung geschrieben hat so oder ähnlich. Wenn die KI WIRKLICH denkt wird sie dich hinters Licht führen und Friede Freude Eierkuchen signalisieren während sie die Vernichtung plant wenn sie irgendwann meint dass Menschen schlecht für den Planeten sind
[pog LW Berlin]2023tly
Versuchen kann man es ja mal.
Der Menschheit könnte es tatsächlich gelingen, ihre größten Probleme mit Hilfe von KI zu lösen, um dann festzustellen, in welche neue, ausweglose Situation sie sich damit gebracht hat… das traue ich uns glatt zu!
Nur zum Verständnis: was sind die größten Probleme? Deren Ursache?
Man brauch keine KI die einem sagt das die Menschheit lieber von über 8 Mrd auf unter 6 Mrd kommen sollte anstatt auf 10 Mrd. Zu landen.
Da draußen sind genug Leute die denken noch mit E Autos retten wir den Planeten. Leider wissen sie nicht das dass meiste Plastik in den Meeren von Autoreifen stammt.
Und selbst wenn eine KI gewisse Vorschläge machen würde, wenn es der herrschenden Ideologie nicht passt wird der Code geändert bis was anderes raus kommt.
Die größten Probleme? Im Sinne meiner Aussage beliebig austauschbar! Genug davon gibt es ja und jede/eder hat eigene Prioritäten. Was mir Angst macht, ist der zu erwartende Missbrauch der KI. Jede neue Technologie wurde bisher missbraucht, hier sind die Folgen aber unabsehbar. Zur Klarstellung: ich bin Technikfreak. Nur ein Beispiel: mein neues Haus habe ich vor vier Jahren 100% smart gebaut, mein Hobby, und ich habe keine Angst vor meinem Haus . Aber mit KI erreichen wir eine neue Dimension. Und die muss beherrscht werden. Nicht verhindert, beherrscht!
Die Menschen in der Politik sollten keine Entscheidungen mehr treffen dürfen was die KI angeht. Zum einen kriegen die ihre eigene Politik nicht zum laufen zum anderen wollen sie jetzt etwas bestimmen. I
Das sind immer so Artikel und Bilder die in einem dystopischen Sci-Fi Film im Intro laufen … ;-)
Widerlich! Absolut widerlich wie Europa sich selber abschafft. Ein Haufen alter Säcke die selber gar keine Computer bedienen können verbieten neue Technologien und halten diese klein, damit andere Länder, China, Japan, USA und co immer wieder an uns vorbei ziehen können!
Europa ist widerlich, weil es „biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen“ nicht erlauben will? Weil es prädikative Polizeisysteme nicht erlauben will, nur weil jemand einem bestimmten Muster entspricht (beides übrigens Stichwort „Minority Report“)?
Also ganz im Ernst: Die einen hier fürchten die EU als „Überwachungsstaat“ und die anderen beschweren sich, dass genau solche Überwachungen künftig nicht erlaubt sein sollen, weil sonst andere Länder technologisch davoneilen?
Dann kann ich daraus nur schlussfolgern, dass die EU mit ihrem Mittelweg dann wohl alles richtig macht.
+1
Du merkst schon, dass Brüssel die Wähler einfach *langsam* vorbereitet? Schritt für Schritt ein wenig mehr. Die Richtung Überwachung und Generalverdacht gegen alle ist nun mal da.
Dummerweise sind Europäer einfach saublöd, um es mal direkt zu sagen. Es wird sich alles gefallen gelassen.
Gegen die Chatüberwachung gab es beispielsweise Initiativen und Unterschriftaktionen. Eh. In anderen Ländern wären 20 Millionen auf der Strasse gewesen. Firmen hätten gedroht ihre Standorte zu schliessen. Die Verantwortlichen hätten sich selbst gekündigt und sich bei der Masse entschuldigt um aus dem Gebäude noch zu kommen, um es etwas zu übertreiben.
In Europa hingegen lachen sich die Politiker tot über die dummen Schafe.
Europa wird eine Mischung aus USA, UK, Russland und China werden, was den Bereich betrifft, dazu muss man kein verrückter Verschwörungstheoretiker sein.
Bargeldlose Zahlungen werden gepusht (1a Trackingmöglichkeit), Generalverdacht („alles sind Terroristen, daher her mit euren Daten, Ihr habt doch wohl nichts zu verstecken??“), selbst Busfahrkarten (Deutschlandticket) sind nun personalisiert. NetzDG war der Anfang, zuerst von der EU gehasst, mittlerweile ist es kurz davor in mehr Ländern eingeführt zu werden.
Aber leider macht die Masse mit… „nach mir die Sinnflut, betrifft ja nur meine Kinder und deren Kinder und nicht mehr mich dann“ :(((
Aber diff, hast Du den Artikel gelesen? Sie wollen die Überwachung durch KI für viele Einsatzzwecke verbieten. Das ist doch gerade das Gegenteil von dem, was Du wohnen unterstellst. Das Parlament hat Gereicht vorgeschlagen, wo eben der Einsatz von KI VERBOTEN werden soll. Und das sind genau all die Einsatzbereiche, die die Freiheiten einschränken würden. Lies doch bitte nochmal den Artikel und schreibe dann, was an dem Verhalten der EU hier falsch sein soll. In anderen Ländern wie China oder USA ist es eben NICHT reglementiert, und da steckt das große Risiko für uns alle.
Ansonsten hast Du natürlich in vielen Punkten recht. Aufbrechen von E2E, weil unter Millionen normaler Nutzer ein Terrorist sein könnte, das geht gar nicht. Gegen sowas bin ich aus ganzer Herzen. Nur hier in diesem Fall hat sich das Parlament (das sehr sehr oft viel vernünftiger ist als die Kommission oder der Rat) eben für die Freiheit und gegen den sinnlosen Einsatz von KI in der Massenüberwachung eingesetzt.
Danke MacManux. Besser hätte ich es nicht sagen können. Volle Zustimmung.
So ein wenig KI wäre schon nicht schlecht in der Politik.
So lange wir sicherstellen, dass wichtige CHANCEN der Technologie nicht gefährdet werden, finde ich es gut, wenn wir uns möglichst früh mit den Gefahren beschäftigen und Regeln festlegen, um diese zu begrenzen.
+1
Die Erschaffung einer uns überlegenen künstlichen Intelligenz ist vermutlich gefährlicher, als alle Atomwaffen und wahnsinnigen Politiker zusammen.
Ich war und bin absoluter Technik Freak, aber dieses Thema ist besorgniserregend und macht mir Angst!
Terminator 2 lässt grüßen. SkyNet übernimmt
Wenn Inkompetenz über künstliche Intelligenz entscheidet!!! Am besten ein paar KI Roboter mit ins Parlament, dann wird das nichts mit KI !!!!
ich bin kein experte und habe keinen überblickt über die komplexe gesamtheit des themengebiets KI. aber die genannten einsatzgebiete, für die KI verboten werden soll, klingen für mich sinnvoll.
bisher les ich hier in den kommentaren nur pauschales EU-bashing und keinen konstruktiven beitrag zur sinnhaftigkeit der begrenzten nutzung.
das liegt wohl daran, dass sich bisher nur wenige leute wirklich mit der materie auskennen. und hoffentlich beraten die die EU.
Wie wäre es zur Abwechslung mit einem Regelwerk, welches einen Mindest-IQ für Parlamentarier regelt?!
Ich glaube das Schlimmste beim Thema KI ist eigentlich, dass die Anwender glauben, es stecke wirklich eine echte künstliche Intelligenz dahinter.
TM
Das US COPYRIGHT OFFICE hat zumindest schon mal festgehalten, dass Werke (Bild, Ton, Text und Video), die mit Hilfe von AI/KI geschaffen wurden NICHT vom Urheberrecht geschützt sind.
Und deswegen von jedem Anderen weiterverbreitet, benutzt und zu eigenen Zwecken monetarisiert werden dürfen.
Ganz schön enttäuschend für all die ChatGPT, Midjourney etc „Künstler“
:-)))
… nicht dass eine KI noch einem EU Parlamentarier auf die Schliche kommt.
Stichwort Pfizer.
Gibts auch etwas wo die sich nicht rein stecken?