Generative KI als Unsicherheitsfaktor
Studie: Jugendliche misstrauen Tech-Konzernen und KI-Inhalten
Eine aktuelle Untersuchung der amerikanischen Non-Profit-Organisation Common Sense Media zeigt, dass viele Jugendliche großen Zweifel an der Vertrauenswürdigkeit von Technologieunternehmen haben. Laut der Studie, die auf einer Umfrage unter mehr als 1.000 Jugendlichen im Alter von 13 bis 18 Jahren basiert, glauben rund 64 Prozent der Befragten nicht, dass Tech-Konzerne ihr Wohlbefinden ausreichend berücksichtigen. 62 Prozent gehen davon aus, dass wirtschaftliche Interessen Vorrang vor der Sicherheit der Nutzer haben.
Wenig Vertrauen in verantwortungsvollen KI-Einsatz durch Tech-Konzerne
Mehr als die Hälfte der Jugendlichen gibt an, wenig Vertrauen darin zu haben, dass Technologieunternehmen ethische und verantwortungsvolle Entscheidungen treffen (53 %) oder ihre persönlichen Daten ausreichend schützen (52 %). Ähnlich skeptisch sind sie, wenn es um die Berücksichtigung unterschiedlicher Nutzergruppen geht: 51 Prozent trauen den Konzernen hier nur eingeschränkt.
Generative KI als Unsicherheitsfaktor
Ein weiterer Aspekt der Untersuchung betrifft das Vertrauen in generative Künstliche Intelligenz (KI). 47 Prozent der Jugendlichen haben wenig bis kein Vertrauen, dass Unternehmen verantwortungsbewusste Entscheidungen über den Einsatz von KI in ihren Produkten treffen. 39 Prozent derjenigen, die generative KI bereits für schulische Zwecke genutzt haben, haben Fehler oder Ungenauigkeiten in den Ergebnissen bemerkt.
Viele Jugendliche befürchten, dass der zunehmende Einsatz von KI ihre Fähigkeit, vertrauenswürdige Informationen zu erkennen, beeinträchtigt. 35 Prozent sind der Ansicht, dass KI-Systeme es erschweren, die Authentizität von Inhalten im Internet einzuschätzen.
Forderung nach mehr Transparenz
Angesichts dieser Skepsis sprechen sich viele Jugendliche für stärkere Schutzmaßnahmen aus. 74 Prozent halten es für wichtig, dass generative KI-Systeme den Nutzern abraten, persönliche Informationen zu teilen. Ebenso viele unterstützen Maßnahmen zur Erhöhung der Transparenz, etwa durch klare Hinweise auf mögliche Fehler oder Verzerrungen in KI-generierten Inhalten. 73 Prozent plädieren dafür, dass durch KI erstellte Inhalte eindeutig gekennzeichnet oder mit Wasserzeichen versehen werden.
- PDF-Download: Teens, Trust, and Technology in the Age of AI
Richtig so: immer hinterfragen
Haben die Jugendlichen das auf TikTok mitgeteilt?
Die Antwort hättest Du selber herausfinden können, aber Du hast es vorgezogen einen schwachen Kommentar zu hinterlassen, der die Umfrageteilnehmer offenbar diskreditieren soll.
ich misstraue studien
Was hast du gegen Fakten?
Gut so. Vor allem, dass die KI misstrauen. Die liefert so viel falsche Informationen das ist fast gruselig.
Die Kiddies sind nicht auf den Kopf gefallen. Meine Anerkennung!
Ein großes Lob für die Jugendlichen ! hätte ich nicht so gedacht, aber Misstrauen auf der einen Seite und Tikki Tokki, Furzbuch und WA auf der Anderen ??? Das passt trotzdem nicht so ganz zusammen ….
Der genauer Fragenkatalog wäre interessant einmal zu sehen sowie eine Übersicht, wie sich die Gruppe der Befragten zusammensetzt – Herkunft, Bildung, etc.
Gerade hier in Deutschland sind solche Erhebungen von „Meinungsforschungsinstituten“ Mechanismen, um überhaupt Meinungen anhand der angeblich festgestellten Meinungen, zu erzeugen.
Kann in den USA natürlich anders sein.
Das ist eine gute Nachricht.
Was ist schlimmer: Eine KI, die falsche Inhalte erzeugt….oder eine Bevölkerung, die inzwischen in Teilen wieder darüber diskutiert, ob die Erde nicht doch eine Scheibe ist. (stellvertretend für die 1000 anderen Theorien)??
Schlimm ist, wenn diese KI diesen Mist produziert und die Bevölkerung es unkritisch übernimmt.
Nach den letzten Studienergebnissen zur medialen und technischen Kompetenz von Schülern hätte ich das nicht erwartet. Aber bin positiv überrascht.
Eben. Das haut nicht hin. Viele erkennen ja nicht einmal KI Inhalte
Sind denn die falschen Meldungen vielleicht doch richtige Meldungen der KI. Vielleicht passt die Meldung nicht weil er sich was anderes vorgestellt hat oder das was richtig ist selbst aber falsch kennt.
Die alten sind das Problem, wenn sie eine kochende Katze und ein brennendes Hollywood Sign für echt halten.
Tja… das ein Tech-Unternehmen vorrangig auch die wirtschaftlichen Interessen umsetzt ist… logisch? Datenschutz und Ethik kommen nun mal an zweiter Stelle, denn das generiert nicht direkt bei oder für alle einen Mehrwert.
Was haben diese 1000 Jugendlichen denn gedacht, wie es in der Wirtschaft funktioniert? Außerdem sind sie am Ende auch nicht wirklich konsequent – Social Media, Smartphones und alles andere wird ja doch genutzt.
Das sie der KI mit einer gesunden Skepsis entgegnen ist gut – aber auch hier denke ich nicht, dass sie Konsequenzen ziehen.
Wenn in der Antwort 1-2 Fehler drin sind (offensichtliche vermutlich), dann werden diese berichtigt und das Ergebnis der KI dann trotzdem beim Lehrer angegeben.
Das widerspricht einer anderen Studie. Der Großteil erkennt nichtmal KI-Inhalte.
Diese Diskrepanz hat mich auch gerade gewundert.
Naja, die Studie bzgl. kI Inhalten basiert auf einer faktischen Analyse. Diese hier geht doch eher in richtig „Ich glaube, das es so ist“. Also recht emotional getriebene Antworten. Und haut halt wieder der Dunning Kruger Effekt rein.