Optimierungsbedarf beim Apple-Partner
ChatGPT für Mac hat Chat-Verläufe im Klartext gespeichert
Apples neuer KI-Partner OpenAI hat Nachholbedarf, wenn es um den Umgang mit persönlichen Daten geht. Die offizielle ChatGPT Mac-App hat die mit dem KI-Assistent geführten Konversationen noch bis letzte Woche unverschlüsselt auf dem Rechner abgelegt. Somit konnte man den Verlauf der ChatGPT-Konversation einsehen, auch ohne Zugriff auf die Anwendung selbst zu haben.
Natürlich benötigt jemand, der auf diese Daten zugreifen will, zunächst einmal Zugang zu dem Mac und dem betreffenden Benutzerkonto. Dementsprechend ist das mit dieser Schwachstelle verbundene Potenzial eher begrenzt. Allerdings hätte neben Personen, die sich Zugang zu dem Computer verschaffen, grundsätzlich auch Schadsoftware die Möglichkeit, diese Inhalte problemlos auszulesen.
Demo des Entwicklers Pedro José Pereira Vieito
Mit Apples strengen Sicherheitsvorgaben und vor allem dem Selbstverständnis des Herstellers, dem Schutz der persönlichen Daten höchstmöglichen Stellenwert zu geben, lässt sich dieser Umgang mit Kommunikationsdaten jedenfalls nicht vereinbaren. Dementsprechend waren die Entwickler von ChatGPT schnell mit einem Update und einem beschwichtigenden, vor allem aber oberflächlichen Statement zur Stelle. Gegenüber dem Magazin The Verge ließ eine OpenAI-Sprecherin verlauten, dass man, während sich die Technologie von ChatGPT weiterentwickelt, bestrebt sei, gleichermaßen eine hilfreiche Benutzererfahrung zu bieten und die hohen Sicherheitsstandards von OpenAI beizubehalten.
Apple dürfte nicht begeistert sein
Hinter den Kulissen dürfte Apple angesichts solcher Vorfälle allerdings für mächtigen Druck sorgen. Der Mac- und iPhone-Hersteller kann es sich schlichtweg nicht erlauben, dass das Selbstverständnis und die Produkte von engen Kooperationspartnern in diesem Bereich Angriffsflächen bietet.
Die Sicherheitslücke wurde in der vergangenen Woche von dem Entwickler Pedro José Pereira Vieito entdeckt. Eine über den Mac App Store vertrieben beziehungsweise auf Apples Sandbox-System basierende App würde einen unbefugten Zugriff auf den Speicherbereich der betreffenden Daten verhindern. OpenAI vertreibt ChatGPT für Mac jedoch bewusst über die eigene Webseite und umgeht diese Standard-Sicherheitsmaßnahmen des Mac-Betriebssystems.
Keine gute Basis für Apple Intelligence als vertrauenswürdige Technologie.
Da verwechselst Du zwei Dinge massiv.
Chat-GPT und Apple Intelligence haben nichts miteinander zu tun.
Es ist lediglich so, dass man, wenn man es angeboten bekommt, die gestellte Anfrage an Chat-GPT weiterreichen kann. Das kann man schlicht verneinen oder grundsätzlich ausschalten, sodass die Abfrage nicht mal kommt.
Aber Strukturell und technologisch sind das vollständig getrennte Systeme.
Also der ganze KI-Kram ist meiner Ansicht nach Mist, aber das finde ich nun schon sehr aufgebauscht. So ziemlich jede Software legt Daten auf dem eigenen Rechner unverschlüsselt ab. Man hat ja auch FileVault dafür, dass bei Verlust nicht darauf zugegriffen werden kann durch Unbefugte. Welche Enthüllung kommt als Nächstes? Pages und Numbers legen Dokumente unverschlüsselt ab? Was macht eine „Konversation“ mit einem stochastischen Papageien jetzt so viel schützenswerter als mein Monatsbudget, das ich als Numbers-Tabelle abgelebt habe? Erschließt sich mir nicht.
Wenn wir davon reden, unsere Dateien auf Computern von anderen Leuten (Cloud etc) abzulegen, dann ist sicherlich jede weitere Schicht Verschlüsselung sinnvoll, denn da ist es ein Ding der Unmöglichkeit abzuschätzen, wer nun wie genau Zugriff hat. Aber ein Transkript auf dem eigenen Rechner? Da finde ich in erster Linie ist es wichtig, dass ein Nutzer/in transparent sieht, dass solche Transkripte angelegt werden und wo die sich auf der Platte befinden, damit man jederzeit die Möglichkeit hat diese zu löschen oder zu bearbeiten. Aber eine extra Schicht Verschlüsselung zusätzlich zu dem was ich mit FileVault sowieso schon habe… kann man machen, muss man aber nicht. Und wer den gleichen macOS-Nutzeraccount mit mehreren Personen teilt macht eh was falsch, da kann man sich ja dann auch gegenseitig in die Dokumente schauen, Mails lesen, Kalender etc da werden dann ein paar belanglose Monologe mit einem Textgenerator den Braten auch nicht fett machen.
Definitiv +1
Was bringt Dir FileVault, wenn die Malware fleißig Daten abziehen darf? FileVault hilft, um Zugriff von jemandem zu verhindern, der vor Deinem Mac sitzt.
BTW: Pages und Numbers legen die Dokumente nicht unverschlüsselt ab. Nicht per se.
Bei den Chat-GPT Daten kommt es halt drauf an was dort gemacht wurde. Nicht jeder fragt Chat-GPT nur nach dem Wetter. Unter Umständen können da sehr persönliche oder gar heikle Daten drin stehen – im Zweifel werden diese halt erst durch die Kombination im Gesamtverlauf heikel bzw. kritisch.
Problem hier ist halt, dass dieses Problem ganz einfach hätte umgangen werden können. Entweder indem man die Daten halt verschlüsselt ablegt, oder einfach indem man den AppStore und somit, wie es im Text bereits steht, das Sandboxing nutzt.
Zusatz Number/Pages: Sie nutzen halt das Sandboxing.
Die Programme schon, die Dokumente aber halt nicht. :D
+1, aber wenn man nix zu melden hat, nimmt man halt was kommt.
Hab gelesen, das ist gar nicht so unüblich und Apple macht das auch. Allerdings nutze die ChatGPT App kein Sandboxing, was dafür automatisch schützen würde. Also das soll wohl dann das größere Problem dabei sein
+1
Und das wird am Ende des Artikels erwähnt, sorry. Dachte schon, ich sollte nicht nur überfliegen ^^‘
Was ist das denn für eine Nicht-News? Mails sind auch nicht verschlüsselt und die Inhalte der Notizen App auch nicht? Wann kommt dazu eine News?
Du weißt aber schon wie sich eine Seite wie ifun unter anderem finanziert?
Klicks bringen Geld und Dinge über die man sich aufregen kann bringen Klicks.
Dazu werden sie häufiger kommentiert und die Kommentatoren kommen immer wieder zurück auf die Seite, um zu sehen ob auf ihren Kommentar reagiert wurde.
Also sei froh, nur so kannst du jeden Tag vorbei kommen und kostenlos Neuigkeiten erhalten.
Exakt Dobermann, das erklärt auch die drei oder mehr Artikel zu wero. Die hatten die meisten Kommentare, ist also ein Thema welches Klicks generiert, das reitet man dann gerne. Ist auch ok, man sollte als User eben nur den Hintergrund verstehen.
Was unterscheidet die unverschlüsselte Ablage des Chatverlaufs von beispielsweise der Mail.app?
Wer Zugriff auf meinen Rechner hat, kann auch meine Emails lesen.
Ist bei SwizzAI nicht der Fall