Някои експерти настояват за прозрачност, отворен код в A.I. разработка

Това беше последователна седмица за изкуствения интелект: Google пусна най-новия си ИИ. модел, Gemini, който победи най-добрата технология на OpenAI в някои тестове.

Но някои, включително папа Франциск, който беше показан във фалшив ИИ. снимки, които станаха вирусни по-рано тази година, започнаха да се колебаят относно A.I. надпревара във въоръжаването. В четвъртък папата призова за обвързващ международен договор за избягване на това, което той нарече "технологична диктатура". Но тъй като изкуственият интелект става все по-мощен, компаниите, които го изграждат, все повече държат технологията строго охранявана.

Едно изключение е Meta, компанията, която притежава Facebook и Instagram. Мета казва, че има по-добър и по-справедлив начин за изграждане на ИИ. без шепа компании да получат твърде много власт. За разлика от други големи технологични лаборатории, Meta публикува и споделя техните изследвания, които Джоел Пинот, лидерът на Meta's Fundamental A.I. Изследователската група - или FAIR - каза, че ги разграничава.

След като беше нает във Facebook от Зукърбърг, ИИ на LeCun работата помогна на сайта на социалните медии да препоръчва приятели, да оптимизира рекламите и автоматично да цензурира публикации, които нарушават ролите на платформата.

„Ако се опитате да изтръгнете задълбочено обучение от Meta днес, цялата компания се разпада, тя буквално е изградена около него“, обясни LeCun.

Въпреки това динамиката се променя бързо. ИИ не просто поддържа съществуващата технология, но заплашва да я преобърне, създавайки възможно бъдеще, в което отвореният интернет с неговите милиони независими уебсайтове е заменен от шепа мощен ИИ. системи.

„Ако си представите този вид бъдеще, в което цялата ни информационна диета се медиира от тези AI системи, не искате тези неща да се контролират от малък брой компании на Западния бряг на САЩ. “, каза Лекун. „Тези системи ще представляват хранилището на цялото човешко знание и култура. Не можете да имате това централизирано. Трябва да бъде отворено.“

Дебатът около опасностите от ИИ.

Някои са съгласни с LeCun, че A.I. ще бъде толкова трансформиращо, че трябва да бъде публично споделено, но други се опасяват, че може да бъде толкова опасно, че трябва да бъде построено само от малцина и може би с много по-бавни темпове. Дори "Кръстниците на ИИ." са разделени, като Хинтън предупреждава, че изкуственият интелект може да „поеме“ управлението от хората, а Бенджио призовава за регулиране на технологията, докато ЛеКън набляга на отворения източник и не е съгласен с теорията на Хинтън, че ИИ. може да унищожи човечеството, наричайки идеята за  екзистенциален риск научна фантастика.

„Това е под шансовете астероид да удари земята и, знаете ли, глобална ядрена война“, каза Лекун.

Несъгласието, каза ЛеКън, се свежда до вярата ви в хората. Той вярва на световните институции като начин да запази A.I. безопасно. Хинтън се притеснява, че репресивните правителства могат да използват войници-роботи, за да увековечават зверствата, докато ЛеКън всъщност вижда потенциална полза в използването на автономни оръжия.

„Украйна масово използва дронове и те започват да влагат ИИ в това. Добре ли е или лошо? Мисля, че е необходимо, независимо дали смятате, че е добро или лошо,“ каза Лекун. "... Това е историята на света, нали знаете? Кой има по-добра технология? Добрите ли са или лошите?"

Въоръжен с тази смесица от оптимизъм и неизбежност, LeCun се противопоставя на регулирането на основния ИИ. изследвания. Основната му предпазливост е срещу супер интелигентността, която все още е много далеч, каза той. Вместо това той и Мета се фокусират върху роботи, които могат да изпълняват основни домакински задачи. Дхрув Батра, който ръководи лабораторията по роботика на Мета, работи за създаването на полезен, автономен домашен робот. Въпреки че Батра беше нетърпелив да покаже на CBS Saturday Morning колко се е развил екипът му, той призна, че ще мине много време, преди роботите да започнат да почистват и да управляват домакинските задачи за широката публика.

„Има цял обем знания, които просто считате за здрав разум, които все още нямаме в роботите или в AI като цяло“, каза Батра.

Стъпка по стъпка, тези умения се преподават, докато хората избират да преследват свръхчовешкия интелект. Но ако бъде открито споделена, тази страхотна нова сила няма да ни замени, а ще ни даде сили, според LeCun.

„Очевидно трябва да го направите правилно“, каза LeCun. „Има странични ефекти от технологията, които трябва да смекчите, доколкото можете, но ползите далеч надхвърлят опасностите.“

Последвайте ни в