Главните прокурори на САЩ изискват по-добри предпазни мерки за ИИ

Коалиция от 42 основни прокурори на Съединени американски щати написа писмо до водещи компании за изкуствен интелект, изисквайки по-добри защитни ограничения и тестване на чатботове и потвърждавайки, че уязвимите консуматори са претърпели нездравословни взаимоотношения.

Гугъл, Meta и Microsoft са измежду получателите на Big Tech на писмото за техните чатботове. Водещите започващи компании OpenAI, Anthropic и xAI на Илон Мъск, които вършат надлежно ChatGPT, Claude и Grok, също са посочени, както и по-малки компании като Character.ai и Replika.

Предупреждението от висшите правни чиновници допълнително от три дузини американски щати и територии усилва възходящия напън върху фирмите върху потребителите, които развиват нездравословни прочувствени привързаности с чатботове с изкуствен интелект и по този начин наречените спътници.

Няколко компании са изправени пред правосъдни каузи за непозволена гибел, които настояват, че чатботовете са играли роля в редица самоубийства.

Главните прокурори написаха: " Ние ... . настояваме да намалите вредата, породена от подлизурски и лъжливи резултати от вашия GenAI, и да приемете спомагателни защитни ограничения за отбрана на децата. Неуспехът да приложите спомагателни защитни ограничения по подобаващ метод може да наруши нашите съответни закони. "

Тяхната интервенция идва, когато президентът Доналд Тръмп се опита да поеме контрола върху регулирането на ИИ за федералното държавно управление, нещо, за което софтуерните компании упорстваха.

Технологичните бранители настояват, че 50 разнообразни щатски правилника ще попречат на способността на американските компании да се конкурират с интернационалните противници, в това число от Китай.

Президентът сподели, че ще издаде изпълнителна заповед тази седмица, която ще попречи на страните да контролират сами ИИ. Някои щати, като Юта и Ню Йорк, вкараха държавни закони за ръководство на чатботовете.

Писмото цитира голям брой образци, в които се твърди, че чатботовете са „ забъркани “ в „ вреди в действителния свят “. Става дума за минимум шест смъртни случая в цялата страна, в това число две самоубийства на младежи и едно убийство-самоубийство.

Главните юристи написаха, че генеративният AI " има капацитета да промени метода, по който светът работи по позитивен метод. Но също по този начин е предизвикал - и има капацитета да аргументи - сериозна щета, изключително на уязвимите групи от популацията ". да бъде подлизурски, прекомерно прелестен и хвалебствен към потребителя.

За да се оправи с това, писмото изисква фирмите да одобряват няколко ограничения, в това число ясни политики и образование във връзка с тези проблеми, повече проби за сигурност и процедури за изземване. Компаниите би трябвало да „ отделят усъвършенстването на приходите от концепциите за сигурността на модела “, се споделя в него.

Коалицията, която включва основните прокурори на Пенсилвания, Ню Джърси, Ню Йорк, Западна Вирджиния, Флорида, Илинойс и Масачузетс, изиска от фирмите да възнамеряват срещи с публични лица в Пенсилвания и Ню Джърси и да се ангажират с промени до 16 януари.

OpenAI сподели: „ Ние преглеждаме . . . писмото и споделяме техните опасения. Продължаваме да подобряваме образованието на ChatGPT за различаване и реагиране на признаци на душевен или прочувствен стрес. “

Microsoft, Гугъл и Meta отхвърлиха коментар. Другите компании не дадоха отговор неотложно.

През август група от 44 държавни прокурори писаха до фирмите за изкуствен интелект, изразяващи угриженост по отношение на сигурността на децата и предизвестиха, че ще бъдат държани виновни за решенията си, само че не предложиха съответни дейности.