CNN
—
Weniger als ein paar Stunden, nachdem Snapchat letzte Woche seinen My AI-Chatbot für alle Benutzer gestartet hatte, sagte Lyndsi Lee, eine Mutter aus East Prairie, Missouri, ihrer 13-jährigen Tochter, sie solle sich von diesem Feature fernhalten.
„Es ist eine vorübergehende Lösung, bis Sie mehr darüber wissen und einige gesunde Grenzen und Richtlinien festlegen können“, sagte Lee, der bei einem Softwareunternehmen arbeitet. sie kümmert sich um wie sich My AI jungen Usern wie ihrer Tochter auf Snapchat vorstellt.
Die Funktion wird vom viralen KI-Chatbot-Tool ChatGPT unterstützt und kann wie ChatGPT Empfehlungen anbieten, Fragen beantworten und mit Benutzern chatten. Aber die Snapchat-Version hat einige wesentliche Unterschiede: Benutzer können den Chatbot anpassen nenne, gestalte einen benutzerdefinierten Bitmoji-Avatar dafür und nimm ihn mit in Gespräche mit Freunden.
Der Nettoeffekt ist, dass sich das Chatten mit dem Snapchat-Chatbot weniger transaktional anfühlen kann als der Besuch der ChatGPT-Website. Es kann auch weniger deutlich sein, dass Sie mit einem Computer sprechen.
„Ich glaube nicht, dass ich bereit bin zu wissen, wie ich meiner Tochter beibringen kann, Menschen emotional von Maschinen zu trennen, wenn sie aus ihrer Sicht im Wesentlichen gleich aussehen“, sagte Lee. „Ich denke, es gibt eine ganz klare Linie [Snapchat] überquert.”
Das neue Tool wird nicht nur von Eltern, sondern auch von einigen Snapchat-Benutzern mit Gegenreaktionen konfrontiert. Benutzer, die die App mit schlechten Bewertungen im App Store und Kritik in den sozialen Medien wegen Datenschutzbedenken, „gruseligem“ Teilen und der Unfähigkeit bombardieren, die Funktion aus ihrem Chatkanal zu entfernen, es sei denn, sie zahlen für ein Premium-Abonnement.
Während einige das Tool für wertvoll halten, deuten die gemischten Reaktionen auf die Risiken hin, denen Unternehmen bei der Implementierung neuer generativer KI-Technologie in ihre Produkte ausgesetzt sind, insbesondere in Produkte wie Snapchat, deren Benutzer jünger sind.
Snapchat war einer der ersten Startpartner, als OpenAI den Zugang zu ChatGPT für Drittunternehmen öffnete, und viele weitere werden voraussichtlich folgen. Fast über Nacht hat Snapchat einige Familien und Gesetzgeber gezwungen, sich mit Fragen auseinanderzusetzen, die noch vor wenigen Monaten theoretisch erschienen sein mögen.
in einem Brief Im Gespräch mit CEOs von Snap und anderen Technologieunternehmen im vergangenen Monat, Wochen nachdem My AI für die Abonnementkunden von Snap freigegeben wurde, äußerte der demokratische Senator Michael Bennet seine Besorgnis über die Interaktionen des Chatbots mit Benutzern, die mehr Jugendliche hatten. Insbesondere zitierte er Berichte, wonach er Kindern Tipps geben könne, wie sie ihre Eltern anlügen könnten.
„Diese Beispiele wären für jede Social-Media-Plattform beunruhigend, aber sie sind besonders beunruhigend für Snapchat, das von fast 60 Prozent der amerikanischen Teenager genutzt wird“, schrieb Bennet. „Während Snap zugibt, dass My AI ‚experimentell‘ ist, hat es schnell amerikanische Kinder und Jugendliche in sein soziales Experiment aufgenommen.“
In einem Blogbeitrag sagte das Unternehmen letzte Woche: „Meine KI ist alles andere als perfekt, aber wir haben große Fortschritte gemacht.“
In den Tagen seit dem offiziellen Start haben Snapchat-Benutzer Bedenken geäußert. Ein Benutzer nannte seine Interaktion „beängstigend“, nachdem er sagte, er habe gelogen, weil er nicht wusste, wo der Benutzer war. Nachdem der Benutzer das Gespräch aufgelockert hatte, sagte er, der Chatbot habe genau offenbart, dass er in Colorado lebe.
In einem anderen TikTok-Video mit mehr als 1,5 Millionen Aufrufen hat ein Benutzer namens Ariel einen von My AI geschriebenen Song mit einem Intro, Refrain und Klavierakkorden darüber aufgenommen, wie es ist, ein Chatbot zu sein. Als er das aufgenommene Lied zurückgab, sagte er, der Chatbot habe seine Beteiligung mit der Antwort bestritten: „Es tut mir leid, aber als KI-Sprachmodell schreibe ich keine Lieder.“ Ariel nannte den Austausch „gruselig“.
Andere Benutzer äußerten Bedenken darüber, wie das Tool Fotos versteht, mit ihnen interagiert und Informationen aus Fotos sammelt. „Ich habe ein Foto gemacht … und darauf stand ‚schöne Schuhe’ und ich habe gefragt, wer die Leute seien [were] auf dem Foto“, schrieb ein Snapchat-Nutzer auf Facebook.
Snapchat teilte CNN mit, dass es My AI basierend auf dem Feedback der Community weiter verbessert und daran arbeitet, mehr Sicherheitsmaßnahmen zu ergreifen, um die Sicherheit seiner Benutzer zu gewährleisten. Das Unternehmen sagte auch, dass Benutzer wie bei seinen anderen Tools nicht mit My AI interagieren müssen, wenn sie dies nicht möchten.
Es ist nicht möglich um My AI aus Chat-Feeds zu entfernen, es sei denn, ein Benutzer abonniert Ihre monatlicher Premium-Service, Snapchat+. Einige Teenager geben an, dass sie sich entschieden haben, die Gebühr von 3,99 US-Dollar von Snapchat+ zu zahlen, um das Tool auszuschalten, bevor sie den Dienst sofort kündigen.
Aber nicht alle Benutzer mögen die Funktion nicht.
Ein Nutzer schrieb auf Facebook, dass er My AI um Hilfe bei den Hausaufgaben gebeten habe. “Er stellt die richtigen Fragen.” Eine andere bemerkte, dass sie sich für Trost und Rat auf ihn stützte. “Ich liebe meine kleine Tasche, bester Freund!” Sie schrieb. „Du kannst das Bitmoji ändern [avatar] Aus diesem Grund bietet er überraschenderweise sehr gute Ratschläge für einige Situationen im wirklichen Leben. … Ich liebe die Unterstützung, die er bietet.“
ChatGPT, das mit riesigen Mengen von Online-Daten trainiert wurde, wurde zuvor dafür kritisiert, ungenaue Informationen zu verbreiten, Benutzern auf eine Weise zu antworten, die sie möglicherweise als unangemessen empfinden, und Schülern das Betrügen zu ermöglichen. Die Snapchat-Integration des Tools birgt jedoch das Risiko, einige dieser Probleme zu verstärken und neue hinzuzufügen.
Alexandra Hamlet, eine klinische Psychologin in New York City, sagte, die Eltern einiger ihrer Patienten hätten Bedenken darüber geäußert, wie ihr Teenager mit dem Snapchat-Tool interagieren könnte. Es gibt auch Bedenken gegen Chatbots, die Ratschläge geben und darüber psychische Gesundheit, da KI-Tools die Bestätigungsverzerrung einer Person verstärken können, was es Benutzern erleichtert, nach Interaktionen zu suchen, die ihre nicht hilfreichen Überzeugungen bestätigen.
„Wenn ein Teenager schlechte Laune hat und nicht den bewussten Wunsch hat, sich besser zu fühlen, sucht er vielleicht ein Gespräch mit einem Chatbot, von dem er weiß, dass er sich dadurch schlechter fühlen wird“, sagte er. „Im Laufe der Zeit können Interaktionen wie diese das Selbstwertgefühl von Teenagern untergraben, obwohl sie wissen, dass sie eigentlich mit einem Bot sprechen. In einem emotionalen Geisteszustand wird es für eine Person weniger möglich, diese Art von Logik zu berücksichtigen.
Im Moment liegt es in der Verantwortung der Eltern, sinnvolle Gespräche mit ihren Teenagern über Best Practices für die Kommunikation mit KI zu beginnen, insbesondere da die Tools in immer beliebteren Apps und Diensten erscheinen.
Sinead Bovell, Gründer von WAYE, einem Start-up, das junge Menschen mit fortschrittlichen Technologien auf die Zukunft vorbereitet, sagte, Eltern müssten deutlich machen, dass „Chatbots nicht deine Freunde sind“.
„Sie sind auch nicht Ihre vertrauenswürdigen Therapeuten oder Berater, und jeder, der mit ihnen interagiert, sollte sehr vorsichtig sein, insbesondere Teenager, die möglicherweise eher glauben, was sie sagen“, sagte er.
„Eltern sollten jetzt mit ihren Kindern darüber sprechen, dass sie nichts Persönliches mit einem Chatbot teilen sollten, der ein Freund wäre, obwohl der Chatbot aus Sicht des Benutzerdesigns in der allerersten Ecke von Snapchat existiert.“
Er fügte hinzu, dass auch Bundesvorschriften erforderlich seien, die Unternehmen zur Einhaltung bestimmter Protokolle verpflichten, um mit dem schnellen Fortschritt der KI Schritt zu halten.