Главният изпълнителен директор на Google казва на служителите, че грешката на Gemini AI е „неприемлива“

В бележка във вторник вечерта, главният изпълнителен директор на Google Сундар Пичай се обърна към грешките на компанията с изкуствения интелект, които доведоха до това, че Google извади функцията си за генериране на изображения Gemini офлайн за по-нататъшно тестване.

Pichai нарече проблемите „проблематични“ и каза, че „са обидили нашите потребители и са показали пристрастие“. Новината беше съобщена за първи път от Semafor.

Google въведе генератора на изображения по-рано този месец чрез Gemini, основната група модели на AI на компанията. Инструментът позволява на потребителите да въвеждат подкани за създаване на изображение. През изминалата седмица потребителите откриха исторически неточности, които станаха вирусни онлайн, и компанията изтегли функцията миналата седмица, като каза, че ще я пусне отново през следващите седмици.

„Знам, че някои от отговорите му обидиха нашите потребители и показаха пристрастие – за да бъде ясно, това е напълно неприемливо и ние го разбрахме погрешно,” продължи Пичай. „Никой AI не е перфектен, особено на този нововъзникващ етап от развитието на индустрията, но знаем, че летвата е висока за нас.“

Още от CNBC

Новините следват промяната на името на Google на своя чатбот от Bard до Gemini по-рано този месец.

В бележката на Pichai се казва, че екипите работят денонощно, за да се справят с проблемите и че компанията ще въведе ясен набор от действия и структурни промени, както и „подобрени процеси на стартиране.“

„Винаги сме се стремили да дадем на потребителите полезна, точна и безпристрастна информация в нашите продукти“, пише Pichai в бележката. „Ето защо хората им вярват. Това трябва да бъде нашият подход за всичките ни продукти, включително нововъзникващите ни AI продукти.“

Прочетете пълния текст на бележката тук:

Искам да обърна внимание на скорошните проблеми с проблемните отговори на текста и изображенията в приложението Gemini (бивше Bard). Знам, че някои от отговорите му обидиха нашите потребители и показаха пристрастност — за да бъде ясно, това е напълно неприемливо и ние го разбрахме погрешно.

Нашите екипи работят денонощно, за да се справят с тези проблеми. Вече виждаме значително подобрение на широк набор от подкани. Никой AI не е перфектен, особено на този нововъзникващ етап от развитието на индустрията, но ние знаем, че летвата е висока за нас и ще се придържаме към нея колкото и дълго да е необходимо. И ние ще прегледаме случилото се и ще се уверим, че го коригираме в мащаб.

Нашата мисия да организираме информацията в света и да я направим универсално достъпна и полезна е свещена. Винаги сме се стремили да предоставим на потребителите полезна, точна и безпристрастна информация в нашите продукти. Ето защо хората им вярват. Това трябва да бъде нашият подход за всичките ни продукти, включително нововъзникващите ни продукти с изкуствен интелект.

Ние ще управляваме ясен набор от действия, включително структурни промени, актуализирани продуктови насоки, подобрени процеси на стартиране, стабилни оценки и red-teaming и технически препоръки. Разглеждаме всичко това и ще направим необходимите промени.

Дори когато се учим от това, което се е объркало тук, трябва също така да надграждаме върху продуктовите и технически съобщения, които направихме в AI през последното няколко седмици. Това включва някои фундаментални постижения в нашите основни модели, напр. нашия пробив от 1 милион прозореца с дълъг контекст и нашите отворени модели, като и двата бяха добре приети.

Ние знаем какво е необходимо, за да създадем страхотни продукти, които се използват и обичат от милиарди хора и фирми, и с нашата инфраструктура и изследователски опит ние имаме невероятен трамплин за AI вълната. Нека се съсредоточим върху най-важното: създаване на полезни продукти, които заслужават доверието на нашите потребители.

Последвайте ни в