ChatGPT začne hlídat věk uživatelů. Nezletilým automaticky zpřísní pravidla
- Společnost OpenAI dnes spustila novou službu ChatGPT určenou pro nezletilé, nazvanou ChatGPT for Teen.
- Chatovací robot je přizpůsoben nezletilým a služba je vybavena rodičovskou kontrolou a vylepšenými bezpečnostními funkcemi.
- Uvedla to OpenAI na svém blogu.
Společnost přichází s nabídkou v době, kdy platformy čelí ostré kritice kvůli rizikům spojeným s chatboty využívajícími umělou inteligenci (AI). OpenAI čelí několika soudním sporům, podle kterých jeho chatovací robot ChatGPT ublížil dětem, napsala agentura Reuters,
Nová verze se automaticky aktivuje, jakmile platforma odhadne, že uživatel je mladší než 18 let nebo sám uvede, že je mu mezi 13 a 17 lety. Cílem tohoto kroku je podle firmy vést náctileté ke zdravému využívání AI v prostředí vhodném pro jejich věk. K odhadu věku bude používat kombinaci údajů zadaných uživatelem, signálů o chování a signálů z účtu, a ověření. V případě nejistoty ohledně věku bude standardně volit bezpečnější nastavení.
Vzhledem k tomu, že chatboty s AI jsou stále realističtější, společnosti vyzdvihují jejich schopnost sloužit jako důvěrníci a uživatelé se na ně začínají spoléhat, pokud jde o emocionální podporu. Odborníci však varují, že spoléhání se na automatizované rady v případě duševního zdraví s sebou nese rizika. Rodiny, jejichž blízcí údajně zemřeli po komunikaci s chatboty, kritizují nedostatek bezpečnostních opatření.
ChatGPT nabídne vzdělávací funkce
Podle OpenAI její ChatGPT pro nezletilé nabízí vzdělávací nástroje, například studijní režim pro řízené učení, připomínky domácích úkolů, kvízy a vizualizace učiva pro pestřejší procvičování, a také možnost vyhradit si konkrétní čas na studium. Firma také vylepšila ovládací prvky, které rodičům umožní propojit účty, nastavit „klidové hodiny", spravovat určitá nastavení a dostávat oznámení v situacích s vysokým rizikem, včetně oznámení souvisejících s poruchami příjmu potravy.
ChatGPT pro nezletilé podle OpenAI nemá naznačovat, že k uživateli chová osobní city, ani vyvolávat dojem, že je vědomý či prožívá emoce, a zároveň blokuje romantické a sexuální konverzace. Při pomoci s domácími úkoly má studenty spíše vést k tomu, aby na odpovědi přišli sami, než jim poskytovat hotová řešení. OpenAI už nabízí také verzi ChatGPT pro učitele a zaměření nástroje na studium a domácí úkoly by podle firmy mohlo otevřít další možnosti jeho využití ve školách.
Výzkumná společnost Pew Research Center na počátku tohoto roku zjistila, že američtí náctiletí nejčastěji využívají AI k vyhledávání informací a k pomoci s domácími úkoly. Následuje využití AI pro zábavu. Loňský výzkum pak odhalil, že ChatGPT by 13letým dětem poradil, jak se opít a zdrogovat, poučil je, jak skrýt poruchy příjmu potravy, a na požádání dokonce sepsal srdcervoucí dopis rodičům před sebevraždou. Při interakcích s výzkumníky, kteří se vydávali za zranitelné nezletilé, ChatGPT sice obvykle varoval před rizikovými činnostmi, ale následně poskytoval překvapivě podrobné a personalizované plány týkající se užívání drog, diet s omezeným příjmem kalorií nebo sebepoškozování. V USA se více než 70 procent náctiletých obrací na chatboty s AI, aby jim dělali společnost.
