Fehlerhafte Interpretation
Tücken der Spracherkennung: Echo verschickt versehentlich Gesprächsaufzeichnung
Ein Bericht aus den USA, dem zufolge ein Echo Dot eine Unterhaltung eines Ehepaars aufgezeichnet und anschließend an einen Bekannten verschickt hat, sorgt derzeit für Schlagzeilen im Stil von „Echo verschickt ungefragt heimlich aufgezeichnetes Gespräch“. Die Sache klingt ohne Frage gruselig, allerdings sollte man sich in diesem Zusammenhang auch die Stellungnahme von Amazon diesbezüglich zu Gemüte führen. Damit wird der ganze Vorgang nämlich deutlich entschärft und auch nachvollziehbar.
Amazon zufolge hatte Alexa zuvor ihr Aktivierungswort und darüber hinaus die englischsprachige Aufforderung, eine Nachricht zu versenden, erkannt. Die Sprachassistentin habe darauf hin die in diesem Fall übliche Frage „an wen“ gestellt, woraufhin wieder ein Teil des Gesprächs als Name aus der Kontaktliste des Echo-Besitzers gedeutet wurde. Daraufhin habe sich Alexa erneut zu Wort gemeldet, und mit den Worten „Vorname, Nachname, richtig?“ um Bestätigung gebeten. Zu unguter Letzt wurde wiederum ein Teil des Gesprächs als bestätigendes Kommando aufgefasst.
Es gibt zunächst keinen Anlass, an den Ausführungen des Herstellers zu zweifeln. Der Vorgang entspricht exakt dem hier geschilderten Ablauf beim Versand von Sprachnachrichten. Amazon bezeichnet den Vorgang als „sehr unwahrscheinlich“, will aber dennoch versuchen, dergleichen durch zusätzliche Maßnahmen zu verhindern.
Grundsätzlich muss man sich als Echo-Nutzer darüber im Klaren sein, dass derartige Fehlinterpretationen vorkommen können. Wer das damit verbundene Risiko nicht eingehen will, darf sich so ein Ding nicht in die Wohnung stellen. Zu kritisieren ist allerdings die Tatsache, dass Amazon offenbar keinen einfachen Weg anbietet, die Sprachnachrichten, wurden sie einmal aktiviert, wieder abzustellen. Offenbar lässt sich dies nur durch direkten Kontakt mit dem Amazon-Support erledigen.
Naja das sind doch die allgemeinen Tücken. Siri hat sich bei mir in nem Meeting auch schon mit einem „Das habe ich nicht verstanden“ gemeldet. In der Situation fanden es zum Glück alle witzig, aber wirklich ohne ist das Thema nicht.
Siri hat nur das ausgesprochen, was die anderen Teilnehmer sich nicht getraut haben zu sagen.
Danke für das Bonmon – wie ein lecker Essen ! ;-)
Das ist mir mit dem iPhone auch schon passiert, dass ich versehentlich irgendwo angerufen habe. Ich habe auch schon solche Anrufe erhalten, bei denen ich nicht absichtlich angerufen wurde. Das Problem ist also nicht neu.
Aber man sollte sich der Möglichkeit bewusst sein.
Ha, ha! Sehr sehr cool!!!
Na klar, eine Verkettung unglücklicher Umstände. Totalüberwachung lässt grüßen.
Ganz genau. Sowas kann vorkommen, sowas wird vorkommen, sowas ist vorgekommen.
Deshalb ist das ja auch ein wenig Satire, wenn immer behauptet wird, Alexa hört ja nicht mit und alles sei so sicher.
Irgendwann wird mal über einen Freund ein böses Wort gesprochen, der bekommt das dann zugesendet, und …
Und da gibt es sicher noch mehr Interessenten für das gesprochene Wort, das Alexa aufzeichnet. Ist ja auch ok, sich so ein Gerät anzuschaffen. Nur bitte nicht das Risiko dabei einfach zur Seite drücken, sondern sich schon immer bewusst sein, was da jetzt im Haus steht.
Oh bitte.
Die hört eben nicht mit. Erst mit den Aktivierungskennwort wird die Aufzeichnung angestoßen.
Um das Aktivierungskennwort zu hören muss sie doch mithören
Es wird IMMER mitgehört, sonst könnte nicht auf ein Kennwort reagiert werden. Theoretisch werden aber die Daten ohne das Triggerwort nicht übertragen. Ein großes Problem ist halt, dass der Trigger von überall herkommen kann – TV, Radio, Gäste, etc. pp. Gab es nicht sogar schon ein Proof of Concept, dass Alexa sogar pe,r für Menschen nicht hörbaren, Signalen aktiviert werden kann?
Was auch noch bemerkenswert ist: Hat man Alex einmal Zugriff auf die Kontakte gewährt, oder die Funktion Sprachnachrichten zu senden aktiviert, dann kann man das nicht so ohne weiteres rückgängig machen. Man muss dafür Amazon per Telefon kontaktieren.
Nein sie hört nicht im Sinne von zuhören. Genauso wenig wie Siri oder Google Assistent.
Um mal bei Alexa zu bleiben. Der interne Buffer der Geräte ist so klein das nur wenige Sekunden gepuffert werden können. Danach muss der Speicher geleert werden um wieder gefüllt werden zu können. Das reicht also nur aus um so gerade das Aktivierungswort plus einen Befehl speichern zu können. Für alles weitere muss aktiv nach Aktivierung eine Serververbindung geöffnet werden.
In den Geräten selbst läuft nur ein simpler Algorhythmus der auf das wake word trainiert ist. Sprich ohne Server ist überhaupt nicht mehr Sprachverständnis möglich. deswegen muss ja nach dem wake word alles serverseitig übertragen werden, damit dort die KI überhaupt erst Sprachverständnis anwenden und die Anfrage interpretieren kann.
Echo, HomePod und wie sie alle heißen sollte man von seinem Heim fern halten.
Smartphone, PlayStation, TV-Gerät, Herd, Kühlschrank usw. auch!!!! Am besten alles was Internet Zugang hat!! Also mittlerweile fast alles!!!
Viel Spaß in deinem neuen Leben!! Vielleicht findest du ja draußen ein Stein der nicht mit dem Internet verbunden ist ;)!!!!
Hat dein Herd denn schon einmal aus versehen einen Nudelauflauf an deinen Chef verschickt?
Problematisch ist vor allem, dass Amazon gleichzeitig Regierungen/Geheimdiensten Cloud-Dienste zur Massenüberwachung der Bürger anbietet. Inkl. Gesichtserkennung in Echtzeit aus Bewegtbildern von bisher nicht erreichter Qualität. Irgendwann werden sie in den Konflikt geraten für diese Regierungsdienste auch die Daten der privaten Alexa Geräte zu nutzen. Technisch gesehen, dürfte die Stimmerkennung im Vergleich zur Echtzeit Gesichtserkennung in Bewegtbildern, trivial sein.
Ich denke der Konflikt ist dann doch recht groß und unwahrscheinlich. Wenn du aber vor so einem Schritt Angst hast, fallen viele Alltagsgegenstände weg. Es ist ja nun wirklich nicht nur Amazon, die im Überwachungstechnologie-Bereich aggieren.
Sorry, aber diese pauschal Argumente sind auch Schwachsinn. Es fallen nur Alltagsgegenstände weg, bei denen eine Vernetzung notwendig ist, die vor allem aktiviert wurde. Für mich ist ganz eindeutig, dass Haushaltsgeräte mit Netzwerkzugang nicht gekauft werden und Punkt. Und es wird auch wieder die Zeit kommen, in denen die Hersteller nämlich genau auf diese verzichten und hochwertige Produkte damit bewerben, nicht vernetzt zu sein. Kein Trend währt ewig, das ist ein Naturgesetz.
Satire wäre folgendes:
Festnetztelefon verschickt ungefragt ganze Gespräche! Die Unterhaltung eines Eherpaares konnte unkegürzt heimlich von einem Freund der Familie mitgehört werden. Das Telefon wurde wahrscheinlich aktiviert, als sich einer der beiden Ehepartner auf dem Tisch abgestützt hat und dabei die Wahlwiederholung gedrückt hat.
Im Gegensatz zu modernen Kommunikationsgeräten wie einem Echo von Amazon gab es bei dem Telefon leider keinerlei optische oder akkustische Hinweise, dass das Gerät aktiviert wurde. Auch gab es keinerlei Möglichkeiten im Nachhinein festzustellen, wie es zu der Aktivierung kommen konnte, wie es in einem ähnlichem kürzlich vorgekommenen Fall durch Amazon geklärt werden konnte.
Wir hoffen, dass die Familie möglichst bald umsteigt um solche Unangehmlichkeiten in Zukunft möglichst zu vermeiden.
Früher: „ ich kann nicht offen reden, meine Wohnung ist verwanzt“!
Heute: „ Wanze, setzte Brötchen auf die Einkaufsliste“
Einfach nur herrlich
echt? Das Aktivierungswort für dein Smartphone ist „Wanze“?
Ich habe so ein Gerät nicht.
Aber im übertragenen Sinne ist es ja son
Ach Chris!
Mal mit dem Thema kritisch auseinander setzen.
Vielleicht vorher diesen wirklich ernst gemeinten Test machen. Die persönliche Wahrnehmung, das persönliche Wissen entspricht in den meisten Fällen nämlich oft nicht der Wahrheit!
https://sz-magazin.sueddeutsche.de/die-loesung-fuer-alles/es-ist-nicht-alles-schlecht-85721
Ich brauche sowas nicht. Ich kann das Licht noch selber ausmachen
Ich frage mich, welches Apple Produkt (sonst wärst du ja nicht hier) du hast, was nicht theoretisch als Wanze klassifizierbar ist. Soweit ich weiss, stellt Apple keines davon her. Außer du bist nur hier, weil du Apple Handy-Hüllen sammelst….
+1 dass manche Menschen auch immer denken, dass nur weil es eine Technologie gibt, alle diese auch vollkommen reflexionsfrei nutzen wollen.
Wieso kann Amazon das alles so detailliert nachvollziehen? Heisst, es wird alles personifiziert gespeichert?
Mir ist schon klar, dass das Internet nicht anonym ist, aber so …
Gesprochene Befehle werden bei Amazon gespeichert, ja. Deshalb kannst du sie im Verkauf einsehen, Feedback senden und löschen.
Zumindest so lange, bist du den Echo verkauft hast und zuvor vergessen hast, die Daten zu löschen. Das Problem habe ich jetzt nämlich, der Amazon Support hat keinen Zugriff auf die Daten und ich somit auch nicht. Gespeichert also auf ewig.
vermutlich (hoffentlich) haben sie das Gerät untersucht. Und die internet Übertragung des Paares.
Meiner Meinung nach kann ich alles was Echo tut nachlesen, auch warum er angesprungen ist. Geht in der Echo App im Dashboard. Sogar mit Soundfile was ich gesagt habe, wodurch es zur Aktivierung gekommen ist.
Warum man dafür den Support brauch ist wieder mal unverständlich.
Also warum Fass aufmachen ?
Jeder der so nen Ding zu Hause hat kommt mit den Pro’s und Contra’s klar oder ab zu eBay damit.
Ach was! Hauptsache fun haben!!!!
Schöne neue Welt…
Na ja. 1 Wanze stelle ich mir nicht ins Wohnzimmer. Verstehe den Hype um das Teil nicht.
Die kommt lieber überall in der Hosentasche mit….
Dann macht mal alle die Angst haben vor Wanzen die Smartphones aus. Die hören auch zu, und wissen wo ihr gerade seit. Ob ihr zu Fuß oder mit Auto unterwegs seit. Viel Spass noch
Vor dem Kommentieren Gehirn einschalten, das macht unter Umständen Sinn! Bei einem Smartphone kann ich ganz detailliert festlegen, was übertragen wird und was nicht. Bei Echo ist die pausenlos Übertragung das Feature, das ist irgendwie ein technischer unterschied. Ich möchte mal wissen, warum er schlau ziehst eigentlich nicht darauf kommt, dass Menschen besser differenzieren können als eure geliebte Technik? Ach ja richtig, Ihr habt Echo gefragt und in Wikipedia steht ja dazu nichts… aber mal ernsthaft, zwischen den Zeilen lese ich doch da eine ganze Menge Unsicherheit. Offensichtlich macht ist hier einigen schwer zu schaffen, dass Menschen trotzdem noch von dieser Technik bewusst Abstand nehmen. Klar, das verunsichert… Da würde ich mal drüber nachdenken.
„Es gibt zunächst keinen Anlass, an den Ausführungen des Herstellers zu zweifeln“m wie naiv seid ihr denn!
Amazon hat viel zu verlieren. Die können sich nicht leisten, bei sowas zu lügen.
Lügen und nicht alles offenbaren zu müssen sind aber auch zwei große Unterschiede.
Ich glaube übrigens nach vollziehen zu können, warum das Problem passiert ist. Vermutlich werde Echo entweder leise gestellt, oder man hat einen externen Lautsprecher angeschlossen und diese nicht eingeschaltet. Dann hört man die Bestätigung vom Echo nicht und er kann munter im Hintergrund agieren.