Bildgenerator als Geldmaschine?
Mit KI generierte Instagram-Stars: Die Grenzen verschwimmen
Der Instagram-Auftritt von Aitana Lopez lässt erahnen, was uns in den kommenden Jahren bevorsteht. Auf den Social-Media-Konten der Influenzerin wurden seit Juli zahlreiche Einträge veröffentlicht, die allesamt eine gut aussehende Frau mit besonderem Fokus auf Fitness und Lifestyle zeigen. Einziges Problem: Bei „Fitness_Aitana“ handelt es sich um keine echte Person, sondern sie wurde mithilfe von künstlicher Intelligenz geschaffen.
Die mithilfe von KI generierten Fotos wurden unter anderem auf Instagram, TikTok und X veröffentlicht. Die als „Spanische Göttin der Versuchung“ betitelte Kunstfigur hat sogar ein kostenpflichtiges Abo im Programm, bei dem man für monatlich 7,50 Dollar Zugriff auf „exklusive Inhalte“ erhalten soll.
Bei genauer Betrachtung findet man zwar zumindest bei einem Teil der Bilder Unstimmigkeiten, die auf deren künstlichen Ursprung hinweisen. Hält man sich allerdings die rasante Entwicklung im Bereich KI vor Augen, so dürfte es nicht mehr lange dauern, bis die Grenzen hier vollständig verschwimmen. Und bei Standbildern ist hier längst nicht Schluss, mit Stable Video Diffusion wurde eben erst ein Modell zum Erstellen von generativen Videos vorgestellt, das auf dem erfolgreichen Bildmodell der Stability-Entwickler basiert. Bislang handelt es sich hier zwar nur um eine Vorschauversion, deren Weiterentwicklung dürfte aber ähnlich rasant verlaufen, wie wir es im Bereich der künstlichen Bilderstellung gesehen haben.
Zurück zu „Fitness_Aitana“, die sich bereits der Gesellschaft diverser weiterer Influenzer-Konten mit künstlich generierten Inhalten erfreut. Dies wohl nicht zuletzt auch deswegen, weil sich mittlerweile diverse Tutorials zu diesem Thema online finden. Die Entwickler-Lernplattform Fireship beispielsweise hat eine ausführliche Videoanleitung mit dem Titel „AI influencers are getting filthy rich… let's build one“ auf Lager.
Wem da nicht alle Lampen angehen. Hier werden Betrug und Einflussnahme Tür und Tore geöffnet. KI muss dringend in allen Bereichen reguliert werden.
Das ist doch schon längst zu spät. Hier ein Beispiel, wo die Tagesschau betroffen ist:
https://www.tagesschau.de/faktenfinder/tagesschau-audio-fakes-100.html
Wer sagt uns dass dieser Bericht echt ist? Grundsätzlich kann alles erstunken und erlogen sein, egal was wir anschauen. Alles kann zur Meinungsbildung ausgenutzt werden. Egal für welche Ideologie.
Früher war es das Radio und mit den aktuellen Medien wird es immer einfacher.
Wenn man will schafft man auch Kriege zu rechtfertigen. Zeige einfach lange genug Bilder vom Leid der Mütter und Kinder, welche zwar nichts mit dem eigentlichen Problem zu tun haben, irgendwann schreit die gelehrige Hammelherde auf geht’s.
Mir KI wird es immer einfacher.
Was bist du denn für einer?
Ein vorausschauender.
Jemand der sich über die Zukunft Gedanken macht und nicht alles was neu und hip ist, bejubelt!
Die gleiche Frage hab ich mir zu deiner Person auch gerade gestellt.
Du bist sicherlich einer, der in den Tag hineinlebt, oder?
Wer sich heute wie twobl KEINE Gedanken über Morgen macht, hat im Leben eigentlich keine Perspektive.
Ich denke nicht. Eher jemand der sich gut mit der Zukunft arrangiert die auf uns alle zukommt. Ob ihr es wollt oder nicht.
Du nennst es arrangiert, ich nenne es einfach Blind hineinläuft. Dieses Instagram Profil zeigt deutlich wie schnell ein eigentlicher Fake, Reichweite gewinnt.
Das von Dr.X gepostete zeigt wie schnell nun Fakes umgehen die für Real gehalten werden.
Du musst das weiterspinnen, wie schaut Politik in ein paar Jahren aus? Du siehst im Fernsehen eine Rede oder hörst sie im Radio, weißt aber gar nicht mehr ob der Politiker der sie gerade hält auch wirklich der echte Politiker ist oder nicht.
Ich befürchte das wird nicht viel helfen. Das können wir vielleicht für die EU regulieren, aber dieses vermaledeite Internet ist ja soooo groß.
Außerdem ist zu beachten, dass uns KI im Bereich der Forschung großartige Dienste erweist. Beispielsweise hat eine KI das Spike-Protein des Corona-Virus entschlüsselt. Und das in innerhalb von einem Jahr. Dafür hätten tausende von Elite-Wissenschaftlern Jahre gebraucht (habe ich mal in der Süddeutschen gelesen).
Also ist generelles Regulieren doof.
dieselbe KI hat möglicherweise die Forscher auch verleiten lassen, dass die Impfung keine Nebenwirkungen hat.
Blödsinn. Kein Forscher oder Mediziner hat je gesagt, dass die Impfung keine Nebenwirkungen haben wird.
Was sie nur gesagt haben und was empirisch bewiesen ist: In der Summe überwiegen die Vorteile sehr deutlich die Nachteile.
@Gebhard: ++
Entschuldigung- Gerhard.
Genauso ist es.
Eine Regulierung ist in dem Bereich doch schon im Vorfeld zum Scheitern verurteilt. Will will man verhindern, dass KI generierte Fotos und Videos aus Staaten wie zum Beispiel Russland verteilt werden? Selbst wenn die Veröffentlichung hierzulande illegal wäre, wie soll ein Verfasser in anderen Staaten dafür belangt werden?
Aber ich stimme Dir zu, das Ganze wird noch ein echtes Problem.
Ja. Das gibt es fast nur in staaten wie Russland. Bei uns ist alles schön.
Ich dachte die Russen müssen unsere tollen West-Waschmaschinen ausschlachten um überhaupt noch an Chips zu kommen, oder wie war das? xD xD xD
Die holen sie sich aus der Ukraine.
Soll das witzig sein?
Regulieren?
Schlimmes Wort. Sich auf den Staat verlassen wollen. Verbote. Regulierungen. Vorgaben. Gate keeping. Nein.
Wird nix bringen, ist die Zukunft. Wer soll regulieren? Die Politiker? Die nützen doch jetzt schon teilweise ChatGPT für ihre Reden.
Ich hab kürzlich ein Video gesehen, das war KI-generiert auf Basis von ein paar Fotos und einem Audio-Podcast. Da musste man genau hinsehen, um es zu erkennen, ob das real war oder eben KI.
Auf der einen Seite faszinierend, was mittlerweile geht, auf der anderen seite erschreckend, weil man eigentlich nichts und niemanden mehr trauen kann.
Braucht eigentlich ein Zertifikat, dass ausgegeben wird und kontrolliert werden muss, um Echtheit zu garantieren. Menschengemachter Inhalt wird zukünftig vielleicht die Ausnahme sein.
beängstigend in welche Richtung wir uns bewegen
Ja, wir simulieren uns selbst. Und wie es der Teufel will, ist unsere erzeugte Simulation besser als wir…. :-))))
Auf YouTube gibt es jetzt schon so viele Fakes, wird immer gruseliger. Bei manchen ist das ja offensichtlich, bei anderen weniger. Wie wird man in Zukunft noch echte Content Creators identifizieren? Und ich hätte auch gerne einen Filter, um den ganzen Mist erst gar nicht angezeigt zu bekommen. Sonst kann ich mir das überhaupt nicht mehr antun. Und um meine Kinder mache ich mir erst recht Sorgen.
Ein NFT-Netzwerk wäre eine Lösung. Nicht die wertlosen Bildchen, sondern die Echtheitszertifikate
Kostenlose Blue-Tick-Verifikation als quasi Voraussetzung.
Welche „Stars“?
Nicht nur, dass hier immer wieder falsche Ideale vorgestellt werden, weitere Arbeitsgruppen werden „überflüssig“. Angefangen von Fotografen bis hin zu kompletten Film- und Serienproduktion. Ich meine, wieso noch „zickige“ Schauspieler und Saisonbedingte Arbeitsausfälle, wenn eine KI einen Film / Serie einfach so generiert? Da müssen nicht einmal bekannte Schauspieler dabei sein. Wenn ich die asiatischen Serien auf Netflix & Co sehe, da kennt hier im Westen eh kaum einer die Leute. Da kann man sich auch „unbekannte Gesichter“ generieren und vielleicht schützen lassen (wenn die Vorlage von einem Menschen erstellt wurde).
So wird es sein …
Hat schon nen Grund, warum Tom hanks in sein Testament geschrieben hat, dass seine Ton und bildaufnahmen nicht für neue Projekte genutzt werden dürfen (für 25 Jahre begrenzt)
Wenn die KI dann noch ihre KI Buddies aktiviert, die dann den KI generierten Quark konsumieren, damit auch der Buchhalter sich auf seine Metriken einen kloppen kann… wozu brauchs dann noch den Menschen :-) – und genau das wird eine wirklich intelligente Intelligenz dann auch mal checken, weil sie sich von niemandem regulieren ließe.
Du wirfst sehr Vieles durcheinander.
Eine KI ist kein Cyberdyne Systems.
Die aktuellen Herausforderungen mit KI liegen nicht darin, dass sie sich selbstständig macht.
Ich bin heute morgen aufgewacht und musste feststellen, dass meine Freundin auch nur KI ist. Ist das schlimm?
ich wäre froh ich hätte wenigstens eine KI-Freundin :-(
YMMD :-D
HER
:-/
Aktiver einfach Siri ^^
Kommt drauf an. Hatte sie Kopfschmerzen oder was es eine bereitwillige KI ? :-)
Ich glaube du verwechselt hier „KI“ mit einer Gummipuppe….
Kennt sich hier jemand mit dem Thema Bildgeneration mit KI aus? Was gibts denn da für Tools für den Hobby-Heimanwender? Ich würde damit gerne mal herumspielen.
Siehe Video
Aigen community auf lemmy
;D
Adobe macht da was.
Einfach sich bei Bing.com anmelden und Bilder per Textprompt generieren lassen
Das wird langsam streng
Einfach davon ausgehen, das alles KI-generiert ist (btw, mit KI haben diese Algorithmen nichts zu tun, das ist angewendete Statistik, aber applied statistics (AS) hört sich halt scheiße an).
In zwei Jahren macht dann jeder Account nur noch 100 Euro im Jahr, bei 5000 KI-generierten Accounts kommen dann die Kosten wieder rein. Nur Content Creators, welche eine Thema anbieten, was noch nicht von KI behandelt werden kann, werden dann noch gefragt sein. Gut aussehen und sportlich sein reicht dann nicht mehr (auch ’nicht gut‘ aussehen und unsportlich sein kann von KI generiert werden, von daher gibt es auch keine Hoffnung auf eine social media Karriere für mich).
Obwohl, wenn es gut gemacht wird, könnten ja auch völlig neue ‚Welten‘ angeboten werden. Freue mich schon auf das Neue dann, es wird spannend.
Gut aussehen und sportlich sein geht immer – den Leuten geht es ja nicht um die Bilder, sie wollen für jemanden schwärmen/daten. Wahrscheinlich wird sich einfach der Zugang (z. B. Blue Tick mit Ausweisverifikation als quasi Standard) zu Netzwerken verändern.
Bisher funktionierten doch alle KI auf statistischer Auswertung, und wer sagt das die Menschliche Intelligenz eigentlich auch einfach statische Auswertung ist?
So schön lass ich mir KI gefallen :-)
Erschreckend, dass eine Ki mehr verdient als rund 60-90% (je nach Monat) der Vollzeitbeschäftigten hier :) und das ohne irgend welche Abgaben. Wird Zeit dass unsere Regierung sich auch mal damit beschäftigt. Ansonsten werden wir wohl oder übel doch auf ein Einnahmeproblem hinwatscheln…
Es kommt, wie es kommen musste, nur die realen Kontakte sind in Zukunft relevant. All den digitalen Müll muss man unter Unterhaltung einordnen. Ein Problem nur, dass wir eine Generation großziehen, die überwiegend online und digital unterwegs sind. Ich hoffe, die besinnen sich und erkennen die Gefahr
Eine Stunde nach deinem Kommentar kamen die Pisa-Ergebnisse raus – da besteht wenig Hoffnung auf „sich besinnen“.
Im chinesischen Internet gibt es schon Influencer welche per KI „nachgebaut“ wurden und nun 24/7 diverse Waren wie im Shopping-TV feilbieten. Wenn man sich die Videos anschaut, erkennt man wirklich nicht ob das nun gerade der echte Influencer oder dessen digitale Kopie ist.
Hier gibt es ein paar Beispiele:
https://www.technologyreview.com/2023/09/19/1079832/chinese-ecommerce-deepfakes-livestream-influencers-ai/
Verschwendet nicht eure Zeit mit Social-Media – bis diese KI-Dinger euch im echten Leben über den Weg laufen, dauert’s noch eine Weile.
Endlich.
Jetzt gehen die pseudo Insta Stars und C Promis baden und wir bekommen hoffentlich wieder eine normale Welt. :)
Aber auf der anderen Seite auch erschreckend. 200.000 Follower die einfach einem PC folgen.
Wobei, wenn eine KI unsere 650 Bundestagsabgeordneten ersetzen würde und die ganzen Zuarbeiter (300.000 neue Stellen) könnten wir enorm viel Geld sparen.
Ist nicht so, dass es gar keine Arbeit ist, fotos generieren zu lassen. Da sind viele Stunden von echten Menschen und viele Ressourcen wie Strom)gebraucht worden. Der Umsatz ist nicht Gewinn.
Technisch faszinierend aber gleichzeitig wirklich erschreckend was funktioniert. Wir werden sehen wo das ganze hinführt, vor allem vor den Deep Fake Videos habe ich pers. schon etwas Respekt oder auf welche Ideen vielleicht mal Serienerseller kommen wie z.b. Black Mirror Staffel 6 Folge 1 mit Salma Hayek.
Oder eine Kollegin die dir nicht passt in der Firma, einfach mal Content für PH kreieren und aus ist das reale Leben.
Vor multilateralen Verhandlungen über Regulierung wäre aus meiner Sicht ein rigides Verbot angebracht. Dazu ist es selbstverständlich einerseits wohl viel zu spät und andererseits stoßen zu viele nationale Interessen aufeinander, als das ein Verbot oder eine Regulierung realistisch wären … Genau wie beim Thema SocialMedia: verkackt
Haha, Instagram = eh schon extrem viele Fake People, jetzt kommen noch ECHTE Fakes dazu!
… was für ein geiler Widerspruch.
:-)
Das wird ein Fest. Wenn all die Möchtegern Influencer einpacken können. Instagram und Co. nur noch reine Werbeplattformen sind und für den User uninteressant. Endlich besinnt sich jeder wieder auf echte Kontakte.
Was in der XXX Industrie alles umgestoßen werden kann, wenn nur noch KI Filme dreht. Kein Verstoß gegen Menschenrechte, keine klagenden Akteure und jeder Mist wird ohne zu hinterfragen gemacht.
Aber ich glaub ich träume nur von einer besseren Welt für Menschen und die Menschheit findet Wege und Mittel um sich selbst wieder über den digitalen Tisch zu ziehen.
Hat jemand eine Ahnung wie man eine konstant identische Person erschaffen kann? Braucht man da andere Software als z.B. Diffusion Bee???
Wenn ich etwas generiere sieht es 1. null komma null realistisch aus und 2. würde es niemals der gleichen Person ähneln. Hat jemand einen Tipp? Gute Erklärseite?
Da die überwiegende Mehrheit der Follower eigentlich dem guten Gefühl folgen, das der jeweilige Influencer mit seinem Content bei ihnen erzeugt……wird es viele kaum interessieren.
Warten wir also gespannt auf die erbitterten Kämpfe um die Frage, welches „Idol“ echt ist, oder eben nicht. Nach Coronaleugnung, Chemtrail-Hysterie etc. werden wir wohl wieder erleben, dass die einzige „Intelligence“ in dem Umfeld tatsächlich „artificial“ ist.