OpenAI wprowadziło nowe zabezpieczenia dla nastoletnich użytkowników ChatGPT, które przypominają zmiany wymuszone wcześniej na Meta w sprawie Instagrama i Facebooka. Firma ogranicza teraz flirtujący ton rozmów, przypomina o przerwach w korzystaniu z aplikacji i podsuwa wskazówki dotyczące odrabiania lekcji. Sprawa zbiega się w czasie z procesem w Oakland, w którym ława przysięgłych miała ocenić odpowiedzialność Meta za wpływ jej platform na młodych użytkowników, choć ostatecznie nie doszło do wydania wyroku.
- OpenAI zmieniło działanie ChatGPT dla nastolatków, wprowadzając limity czasowe i ograniczenia w tonie rozmowy.
- Chatbot nie może już odpowiadać w sposób flirtujący na wiadomości młodych użytkowników.
- Proces przeciwko Meta w Oakland dotyczący wpływu Instagrama i Facebooka na dzieci zakończył się bez werdyktu ławy przysięgłych.
- Zmiany w ChatGPT wprowadzono zaledwie osiem dni przed zakończeniem procesu Meta, co zwraca uwagę na podobieństwo obu spraw.
- Eksperci wskazują, że chatboty stanowią trudniejsze wyzwanie regulacyjne niż tradycyjne media społecznościowe.
Co zmieniło OpenAI w ChatGPT dla nastolatków?
Miesiąc temu OpenAI wdrożyło aktualizację, która w sposób odczuwalny zmieniła sposób korzystania z ChatGPT przez młodszych użytkowników. Aplikacja zaczęła przypominać o przerwach w trakcie dłuższych sesji, sugerować powrót do nauki, gdy rozmowa zbytnio odbiegała od tematu szkolnego, a przede wszystkim przestała odpowiadać w tonie, który mógłby być odbierany jako flirtujący.
W praktyce oznacza to, że firma postanowiła ograniczyć te elementy interakcji, które w mediach społecznościowych od lat budziły największe kontrowersje – czyli mechanizmy przyciągające uwagę młodych ludzi na dłużej, niż wynikałoby to z ich rzeczywistych potrzeb. Co istotne, zmiany te nie pojawiły się w próżni. Wpisują się w szerszy trend, w którym firmy technologiczne z własnej inicjatywy lub pod presją regulacyjną zaczynają rewidować sposób projektowania produktów kierowanych do dzieci i nastolatków.
Proces Meta w Oakland i jego znaczenie
Niemal równolegle z decyzją OpenAI toczył się proces sądowy w Oakland, w którym Meta miała odpowiedzieć na pytanie, czy ponosi odpowiedzialność finansową za konstrukcję Instagrama i Facebooka w sposób szkodliwy dla najmłodszych użytkowników. Sprawa dotyczyła potencjalnie miliardowych roszczeń, jednak ława przysięgłych ostatecznie nie zdążyła wydać werdyktu.
Z drugiej strony, sam fakt, że taka sprawa w ogóle trafiła przed sąd, pokazuje, jak duże znaczenie mają dziś kwestie bezpieczeństwa dzieci w internecie. Firmy technologiczne, które wcześniej projektowały swoje produkty głównie z myślą o zaangażowaniu użytkownika, coraz częściej muszą brać pod uwagę konsekwencje prawne i wizerunkowe wynikające z zaniedbań w tym obszarze.
Osiem dni po tym, jak OpenAI zmieniło zasady działania ChatGPT dla nastolatków, ława przysięgłych w Oakland nie zdołała rozstrzygnąć, czy Meta powinna zapłacić miliardy dolarów za szkody wyrządzone dzieciom przez Instagram i Facebook.
Dlaczego chatboty to trudniejszy problem niż media społecznościowe?
Warto jednak zauważyć, że mechanizmy, które sprawdzały się w regulowaniu mediów społecznościowych, niekoniecznie da się w prosty sposób przenieść na chatboty oparte na sztucznej inteligencji. Media społecznościowe opierają się głównie na algorytmach rekomendujących treści stworzone przez innych ludzi, natomiast chatbot generuje odpowiedzi w czasie rzeczywistym, dostosowując się do konkretnej osoby prowadzącej rozmowę.
W praktyce oznacza to zupełnie inny rodzaj ryzyka. Zamiast kontrolować, jakie treści trafiają do kanału użytkownika, firmy takie jak OpenAI muszą kontrolować sam proces generowania odpowiedzi, w tym ton, poziom emocjonalnego zaangażowania i granice tematów poruszanych w rozmowie z nastolatkiem. To zadanie znacznie bardziej złożone niż moderacja treści publikowanych przez innych użytkowników.
Co może mieć znaczenie szczególnie teraz, gdy popularność chatbotów wśród młodszych odbiorców rośnie, a regulatorzy i opinia publiczna zaczynają przyglądać się tej technologii z podobną uwagą, jaką wcześniej poświęcali mediom społecznościowym. Trudno jednoznacznie ocenić, czy wprowadzone przez OpenAI zabezpieczenia okażą się wystarczające, jednak sam kierunek zmian sugeruje, że firma stara się wyciągnąć wnioski z doświadczeń, jakie zdobyła branża technologiczna w ostatniej dekadzie.