Огромното финансиране на изкуствен интелект води до реклама и „измамничество“, предупреждава Демис Хасабис от DeepMind

Приливът на пари, нахлул в изкуствения интелект, доведе до известна реклама, подобна на крипто, която затъмнява невероятния научен прогрес в областта, според Демис Хасабис, съосновател на DeepMind.

Главният изпълнителен директор на изследователския отдел на Google за AI каза пред Financial Times, че милиардите долари, които се наливат в генеративни стартиращи фирми и продукти за AI „носят със себе си цял придружител куп хайп и може би малко измамване и някои други неща, които виждате в други хайп области, крипто или каквото и да било.

„Част от това сега се е прехвърлило в AI, което според мен е малко жалко. И това замъглява науката и изследванията, което е феноменално“, добави той. „В известен смисъл AI не е достатъчно рекламиран, но в известен смисъл е твърде рекламиран. Говорим за всякакви неща, които просто не са реални.

Стартирането на чатбота ChatGPT на OpenAI през ноември 2022 г. предизвика лудост сред инвеститорите, тъй като стартиращите фирми се надпреварваха да разработват и внедряват генеративен AI и да привличат финансиране от рисков капитал.

VC групите са инвестирали $42,5 милиарда в 2500 стартиращи капиталови кръга на AI миналата година, според пазарните анализатори CB Insights.

Инвеститорите на публичния пазар също се втурнаха в т.нар. Magnificent Седем технологични компании, включително Microsoft, Alphabet и Nvidia, които са начело на AI революцията. Тяхното покачване спомогна за тласкането на световните фондови пазари към най-силното им представяне през първото тримесечие от пет години.

Но регулаторите вече проверяват компаниите за неверни твърдения, свързани с ИИ. „Човек не трябва да се измива зелено и AI не трябва да се мие“, каза Гари Генслър, председател на Комисията по ценни книжа и борси на САЩ, през декември.

Въпреки някои от подвеждащите шумове за AI, Hassabis , който миналата седмица получи рицарско звание за заслуги към науката, каза, че остава убеден, че технологията е едно от най-трансформиращите изобретения в човешката история.

„Мисля, че само драскаме повърхността на това, което вярвам, че ще бъде възможно през следващото десетилетие и повече“, каза той. „Ние сме в началото, може би, на нова златна ера на научни открития, нов Ренесанс.“

Най-доброто доказателство за концепцията за това как AI може да ускори научните изследвания, каза той, е AlphaFold на DeepMind модел, пуснат през 2021 г.

AlphaFold е помогнал за предсказването на структурите на 200 милиона протеини и сега се използва от повече от 1 милион биолози по света. DeepMind също използва AI, за да изследва други области на биологията и да ускори изследванията в откриването и доставката на лекарства, науката за материалите, математиката, прогнозирането на времето и технологията за ядрен синтез. Hassabis каза, че целта му винаги е била да използва AI като „най-добрия инструмент за наука“.

DeepMind е основан в Лондон през 2010 г. с мисията да постигне „общ изкуствен интелект“, който отговаря на всички човешки когнитивни способности. Някои изследователи предполагат, че AGI все още може да е далеч от десетилетия, ако изобщо може да се постигне.

Hassabis каза, че са необходими още един или два критични пробива, преди да се достигне AGI. Но той добави: „Не бих се изненадал, ако това се случи през следващото десетилетие. Не казвам, че със сигурност ще се случи, но не бих се изненадал. Може да се каже около 50 процента шанс. И тази времева линия не се е променила много от началото на DeepMind.“

Като се има предвид потенциалната мощ на AGI, Хасабис каза, че е по-добре да се преследва тази мисия чрез научния метод, а не чрез хакерския подход, предпочитан от Силиконовата долина. „Мисля, че трябва да възприемем по-научен подход към изграждането на AGI поради значението му“, каза той.

Основателят на DeepMind съветва британското правителство относно първата глобална Срещата на високо равнище за безопасността на ИИ, проведена в Блечли Парк миналата година. Hassabis приветства продължаващия международен диалог по темата, с последващи срещи на върха, които трябва да се проведат от Южна Корея и Франция, и създаването на институти за безопасност на ИИ в Обединеното кралство и САЩ.

„Мисля, че това са важни първи стъпки“, каза той. „Но имаме още много работа и трябва да побързаме, защото технологията се подобрява експоненциално.“

Миналата седмица изследователите на DeepMind публикуваха документ, очертаващ нова методология, наречена SAFE, за намаляване на фактически грешки, известни като халюцинации, генерирани от големи езикови модели като GPT на OpenAI и Gemini на Google. Ненадеждността на тези модели доведе до подаването на заявления от адвокати с фиктивни цитати и възпря много компании да ги използват с търговска цел.

Hassabis каза, че DeepMind проучва различни начини за проверка на факти и основаване на своите модели чрез кръстосана проверка на отговорите с Google Търсене или Google Scholar, например.

Той сравни този подход с начина, по който неговият модел AlphaGo е усвоил древната игра Go чрез двойна проверка на изхода. Един голям езиков модел може също да провери дали даден отговор има смисъл и да направи корекции. „Малко прилича на AlphaGo, когато прави ход. Вие не просто изплювате първия ход, за който мрежата мисли. Има известно време за мислене и прави известно планиране,” каза той.

Когато беше изправен пред предизвикателството да удостовери автентичността на 16 000 отделни факта, SAFE се съгласи с анотаторите, събрани от тълпа, в 72 процента от времето – но беше 20 пъти по-евтино.

Последвайте ни в