OpenAI преконфигурира начина, по който ChatGPT взаимодейства с непълнолетни, за да намали рисковете във време, когато все повече млади хора се обръщат към чатботове, за да учат, да чатят или да изказват гнева си. Компанията е избрала да даде приоритет на безопасността на тийнейджърите пред поверителността и свободата в определени ситуации, промяна, която идва след няколко инцидента, които предизвикаха обществена загриженост.
Планът включва система, която ще се опитва автоматично да различи дали потребителят е непълнолетен или възрастен и, ако има съмнение, ще прилага по-ограничително преживяване по подразбиране. OpenAI признава, че в някои страни може да изисква официална идентификация от възрастни, които искат да отключат пълните функции; отстъпка по отношение на поверителността, която компанията счита за приемлива за защита на непълнолетните . Съобщението дойде на фона на нарастващ политически и социален натиск, с изслушване в Сената на САЩ и съдебен иск след смъртта на млад мъж, който е разговарял с изкуствения интелект.
Какви промени в ChatGPT за непълнолетни
- Специално преживяване за тийнейджъри на възраст 13-17 години с по-строги правила, което ще бъде активирано след предсказване на възрастта на потребителя.
- Ключалка изрично сексуално съдържание и отказ за сътрудничество с материали за самонараняване или самоубийство във всякакъв контекст за непълнолетни.
- Протоколи за кризисни ситуации: Ако се установи тежко бедствие, системата може предупредете родители или настойници и ако има непосредствена опасност, обърнете се към службите за спешна помощ.
- За възрастните остава по-гъвкавото използване, включително сложни творчески заявки, винаги с предпазни мерки; Червената линия не е за улесняване на реална вреда.
- ChatGPT не е предназначен за деца под 12 години и засега... липсваха достатъчно здрави бариери за да се предотврати употребата му от деца.
Как ще работи разпознаването и проверката на възрастта за този ChatGPT
OpenAI разработва система за прогнозиране на възрастта, която използва езикови и контекстуални сигнали, за да адаптира взаимодействията. Ако моделът не може точно да определи възрастта на възрастен, той автоматично ще приложи настройките за непълнолетни като предпазна мярка.
Възрастните потребители ще имат начини да докажат възрастта си и да си възвърнат пълната функционалност, ако погрешно са били класифицирани като тийнейджъри. Компанията признава, че балансът между поверителност и защита е деликатен, но твърди, че тази мярка намалява рисковете за уязвима група.
Родителски контрол и домашен надзор
В допълнение към филтрирането на съдържание, OpenAI ще предостави набор от родителски контрол за семействата. Родителите ще могат да свържат акаунта си с този на децата си тийнейджъри, за да задават правила за ползване и да преглеждат ключови настройки.
Сред опциите ще бъде възможно да се деактивира съхранението и историята на чата, да се ограничат специфични функции и да се зададат часове за прекъсване на връзката , за да се предотврати използването през нощта. Ще се предоставят и известия, когато системата засече ситуация на значителен дискомфорт, така че родителите да могат да се намесят бързо.
Свобода, поверителност и ограничения за възрастни
OpenAI твърди, че ще продължи да третира възрастните като възрастни, с достатъчно място за легитимни приложения, като например искане на помощ при създаването на художествена литература по чувствителни теми. Въпреки това, моделът по подразбиране не трябва да предоставя вредни инструкции и ще бъде по-внимателен при обработката на чувствителни заявки.
Компанията твърди, че поверителността на разговорите трябва да наподобява тази, очаквана в регулираните професии, но признава, че когато има ясен риск за живота на потребителя или трети страни, ще бъдат разрешени човешки или автоматизирани интервенции, насочени към защита на лицето.
Обществен натиск, Сенат и скорошни дела
Новите предпазни мерки идват след вълна от опасения относно въздействието на чатботовете върху психичното здраве на младежите. Случаят с тийнейджър, който се самоуби след месеци разговори с изкуствен интелект, доведе до съдебни действия срещу OpenAI и засилен контрол от страна на американските законодатели.
Изслушванията в Сената бяха насочени към потенциална криза в общественото здравеопазване и необходимостта от ефективни предпазни мерки. Междувременно, власти като Федералната търговска комисия (FTC) поискаха информация от големи технологични компании относно въздействието на техните системи върху децата. OpenAI, от своя страна, въведе подобрения в края на август за откриване на емоционални кризи и ускоряване на насочването към служби за подкрепа.
Независими организации посочиха слабости в предпазните мерки на разговорните модели, предупреждавайки за реакции, които биха могли да нормализират или насърчат опасно поведение . Тези доклади затвърдиха идеята, че е необходим по-силен контрол, особено по отношение на непълнолетните.
Реалността на употребата сред подрастващите: доверие и рискове
Няколко проучвания показват, че значителна част от младите хора използват разговорен изкуствен интелект като „спътник“, за да обсъждат взаимоотношения, лични съмнения или емоции, а случаи на изкуствен интелект, насочен към непълнолетни, като например BabyGrok, подхранват дебата. Сред момичетата процентът, които казват, че се доверяват на интимни неща на технологиите, е по-висок, отколкото сред момчетата , което демонстрира модел на употреба, който се простира отвъд академичните среди.
Експертите по психично здраве предупреждават за симулирана емпатия: чатботовете може да звучат разбиращо, но те не заместват човешката връзка или професионалната подкрепа. Тази видимост на близост , съчетана с 24/7 наличност, улеснява тийнейджърите да се обърнат към изкуствен интелект, когато се чувстват сами или осъждани от средата си.
Най-честите опасения включват страх от манипулирано съдържание, разпространението на фалшиви сексуално откровени изображения и трудности при разграничаването между реалността и онлайн манипулацията. Съществува и опасение относно зависимостта: много млади хора се страхуват да не се пристрастят към инструмента и да загубят способността си да мислят самостоятелно.
В областта на психичното здраве повечето хора не се доверяват на изкуствения интелект за диагностика или терапия и настояват за предпазливост. Консенсусът сред терапевтите е, че изкуственият интелект може да бъде полезен инструмент, но той трябва да насочва пациентите към професионални ресурси, когато има признаци на риск, а не да замества квалифицираната грижа.
Какво остава да се донастрои в тази версия на ChatGPT
Надеждното прогнозиране на възрастта е техническо предизвикателство с допустима грешка, а дизайнът на предпазните мерки изисква непрекъснато актуализиране. OpenAI заявява, че ще продължи да работи със специалисти и застъпнически групи, за да подобри точността на системата , да избегне пристрастия и да преразгледа протоколите въз основа на доказателства.
Използването на изкуствен интелект от младежите само ще се увеличава, така че ключовото ще бъде бързото и прозрачно развитие на регулациите. С тези мерки OpenAI търси компромисен вариант, където иновациите съществуват едновременно с отговорността и където тийнейджърите са по-добре защитени, без да лишават възрастните от законно и творческо използване.
Ходът на OpenAI бележи нов етап: ChatGPT с повече филтри и инструменти за семейства, специфично преживяване за непълнолетни и ясни правила за критични моменти. Ако внедряването оправдае очакванията, тийнейджърите ще получат слоеве сигурност , а възрастните ще запазят пространство на свобода, като всичко това с по-голяма яснота относно това как и защо се вземат тези решения.
