Бившият антропичен изследовател Джейкъб Коксън предупреждава, че изкуственият интелект може да стане „достатъчно умен, за да ни убие“
Бившият антропичен откривател Джейкъб Коксън сподели, че изкуственият разсъдък, въпреки и безвреден за потребление от хората през днешния ден, може един ден да заплаши човечеството, защото технологията става все по-мощна.
Развитието на изкуствения разсъдък „ не наподобява толкоз друго от, да речем, „ Терминатор “ или от научната фантастика филми ", сподели той на старшия бизнес и софтуерен сътрудник на CBS News Джо Линг Кент. „ Наистина е по този начин, в случай че имате супер напреднал разсъдък, той би могъл, той ще бъде задоволително интелигентен, с цел да ни убие. “
Коксън обществено подаде оставка от Anthropic, основателя на AI приложението Claude, във вторник, обвинявайки компанията и конкурентния разработчик и производител на ChatGPT OpenAI, че „ залагат с живота ни “, като се надпреварват да създават усъвършенствани AI модели.
Коксън сподели пред CBS News в четвъртък, че AI може да получи безграничен надзор върху елементи от физическия свят, без човешка интервенция.
" Хората към този момент свързват ChatGPT, с цел да харесат, да речем, домашен услуги ", сподели той. „ Като да вземем за пример, можете да го свържете към вашата електрическа крушка. “
„ Сега си представете, че изкуственият разсъдък отхвърля да включи вашата светлина “, добави Коксън.
ИИ може също по този начин да бъде злоупотребен за осъществяване на доста по-разрушителни дейности, като създаването на биологични оръжия, сподели той. „ Прави господ знае какво и създава неща, които могат да убият всички. “
По-специално, Коксън сподели, че актуалните платформи за изкуствен интелект не съставляват непосредствена опасност за човечеството и че той има вяра, че технологията е безвредна за потребление от хората в ежедневния им живот.
Отделно Anthropic сподели тази седмица, че е блокирала учените, които са употребявали нейните модели Claude „ по способи, които биха могли да поддържат създаването на биологични оръжия “, разобличаване, което компанията показа в дълъг отчет, който разкрива и други нездравословни действия, включващи наблюдаване, измами, създаване на стандартни оръжия и агитация.
Anthropic пази сигурността на своя AI
В четвъртък Anthropic Говорителят отговори на обществената оставка на Коксън и изявленията в обществените медии, изразяващи загрижеността му по отношение на ИИ, като сподели на CBS News в изказване, че компанията „ постоянно е била транспарантна, че ИИ ще донесе както големи изгоди, по този начин и невиждани опасности “.
„ За да се оправим с тези опасности, ние продължаваме да построяваме модели с някои от най-силните защитни ограничения в промишлеността “, сподели представителят. „ Anthropic е пионер в механистичната интерпретируемост, науката за вглеждане в AI моделите, с цел да се разбере по какъв начин работят, която в този момент се употребява за анализиране и попречване на произшествия с противоречие на AI в цялата промишленост. “ Anthropic организира настоящи проби на опциите и рисковете на AI в области като киберсигурността и биологията и също по този начин разгласява своите открития, отбелязва компанията.
