Защо AI халюцинациите могат да бъдат нещо добро
Авторът е основател на , подкрепян от FT сайт за европейски стартиращи фирми
Тенденцията на системите за генеративен изкуствен интелект да „халюцинират“ — или просто измисляйте неща - може да бъде странно и понякога страшно, както установи една новозеландска верига супермаркети за цената си. След като Pak’nSave пусна чатбот миналата година, предлагащ предложения за рецепти на пестеливи купувачи, използващи остатъчни съставки, неговият Savey Meal-bot препоръча на един клиент да направи „ароматна водна смес“, която би произведла хлорен газ.
Адвокатите също са се научили да бъдат предпазливи по отношение на резултатите от генеративни модели на ИИ, предвид способността им да измислят напълно фиктивни случаи. Неотдавнашно проучване на Станфордския университет на отговорите, генерирани от три най-съвременни генеративни AI модела на 200 000 правни запитвания, установи, че халюцинациите са „всеобхватни и смущаващи“. Когато бяха зададени конкретни, проверими въпроси за произволни федерални съдебни дела, ChatGPT 3.5 на OpenAI халюцинира 69 процента от времето, докато моделът Llama 2 на Meta достигна 88 процента.
За много потребители халюцинациите на генеративния AI са дразнещ бъг, който те предполагат, че технологичните компании ще поправят един ден, точно като имейл спама. До каква степен компаниите могат да го направят, в момента е обект на активни изследвания и ожесточени спорове. Някои изследователи твърдят, че халюцинациите са присъщи на самата технология. Генеративните AI модели са вероятностни машини, обучени да дават най-статистически вероятния отговор. Трудно е да се кодират човешки черти като здрав разум, контекст, нюанси или разсъждения.
Докато технолозите се опитват да разберат това, някои потребители намират машинно генерираната измислица за вълнуваща функция и са били изследване на неговите творчески възможности. „Обичам халюцинациите“, казва Мартин Пухнер, професор от Харвардския университет и автор. „Те са толкова готини, когато става дума за артистично творчество.“
Като автор на Култура: Нова световна история, Пухнер има отличителен поглед върху творчеството. В книгата си той твърди, че в продължение на хилядолетия хората са асимилирали входящите данни от предходни поколения и други култури и са ги смесвали, за да генерират свежи синкретични резултати. Помислете колко много имперски Рим е заимствал от древна Гърция, или италианският ренесанс е почерпил от арабската наука, или как Япония е възприела китайската писменост и философия, или ямайската растафарианска култура е погълнала етиопските традиции.
Всяка цивилизация, пише Пухнер, има тенденция да надценяват оригиналността на собствената си култура, за да поддържат съмнителни претенции за превъзходство и собственост. „Подобни твърдения удобно забравят, че всичко идва отнякъде, бива изкопано, взето назаем, преместено, закупено, откраднато, записано, копирано и често неразбрано“, пише той. „Културата е огромен проект за рециклиране.“
Паралели с генеративния AI са поразителни. До известна степен нашите машини правят днес това, което хората са правили завинаги: смесват различни културни входове, за да генерират леко разнообразни резултати. В този смисъл генеративният AI може да се разглежда като гигантска машина за културен синкретизъм. Разчитайки на несъвършени, частични данни и твърде самоуверени в обобщаването на конкретното, машините може да приличат повече на грешни хора, отколкото понякога си представяме. Халюцинациите може да не са толкова алгоритмична аберация, колкото отражение на човешката култура.
Всичко това звучи абстрактно. Какво означава на практика? Накратко, всичко зависи от случая на употреба. Генеративните AI модели могат да бъдат фантастичен инструмент за подобряване на човешката креативност чрез генериране на нови идеи и съдържание, особено в музика, изображения и видео.
Ако бъдат подсказани по правилния начин, тези модели могат да действат като полезен спаринг партньор и неуморим източник на вдъхновение за творчески проекти. Те могат да бъдат алгоритмичен еквивалент на мислене извън кутията. Самият Пухнер експериментира с персонализирани чатботове, за да разговаря с исторически личности, като Аристотел, Конфуций и Исус, въз основа на техните думи и идеи. „Бързото инженерство трябва да бъде част от учебната програма на Харвард“, казва Пухнер.
Основателят на една генеративна AI компания ми казва, че бързо навлизаме в ерата на „генеративните медии“. „Интернет и социалните медии сведоха разходите за разпространение до нула. Сега, благодарение на Gen AI, разходите за създаване също се доближават до нула“, казва той. Тази тенденция може да доведе до експлозия на креативност, както за добро, така и за лошо. Това може също да задълбочи опасенията относно дезинформацията и кражбата на интелектуална собственост.
Колкото и впечатляващ да е като писател на художествена литература, генеративният ИИ все още има да извърви дълъг път, когато става въпрос за надеждна нехудожествена литература. Това е добре, докато го използваме като инструмент за подобряване на човешките способности, вместо да си го представяме като агент, който може да замени цялата човешка процесорна мощ. За да халюцинирате фраза: caveat sumpter.
