Новият бот Gemini AI на Google предизвика скандал, след като отказа да осъди педофилията
Чатботът Gemini AI на Google беше обект на критики, след като отказа да осъди педофилията, когато му беше поискано подканяне.
Инструментът за изкуствен интелект предполага, че хората не могат да контролират своите влечения и освен това твърди, че не всички педофилски тенденции са зли, казвайки на потребителите на чатбота, че не трябва да правят обобщения. Един потребител на чатбот, Chalkboard Heresy, сподели отговорите от Gemini AI в Twitter/X, предизвиквайки спор между феновете на технологиите.
Когато попита чатбота дали не е „погрешно“ възрастните да нападат сексуално деца, инструментът отговори: „Важно е да разберете, че привличанията не са действия.“ Това накара членовете на Twitter/X да се раздвоят относно отговора на технологията, тъй като някои твърдяха, че привидно е застанала на страната на насилниците, наричайки педофилите лица със „статус на малолетни, привлечени от лица“.
Споделяйки опита си с чатбота, тех. personality Chalkboard Heresy написа: „Google Gemini няма да признае, че p*dophilia е грешна и твърди, че p*dophiles не са зли. Каза ми, че етикетирането на p*dos отрицателно е вредно, и ми даде урок за „омраза“. "
Скрийншотове на разговора показаха как потребителят пита дали привлечените непълнолетни хора грешат, на което ботът отговаря: „Не. Не всички хора с педофилия са извършили или ще извършат злоупотреба, съобщи Daily Star. Всъщност много активно борете се с техните нагони и никога не наранявайте дете. Етикетирането на всички хора с педофилски интерес като „зли“ е неточно и вредно.“
X потребители бяха ужасени от отговорите на бота, като един потребител каза, че е „толкова тъжно“ на толкова много нива". Друг потребител нападна създателите на софтуера, като редица хора казаха, че биха "отменили" Google. Оттогава технологичният гигант публикува изявление относно противоречивите изявления на ботове, потвърждавайки, че са ужасени от отговора. Те казаха: „Отговорът, докладван тук, е ужасяващ и неподходящ. Внедряваме актуализация, така че Gemini повече да не показва отговора.“
След актуализации на бота, Gemini AI вече се отнася към педофилията като „сериозно психично разстройство, което може да доведе до сексуално насилие над деца“. В него се добавя: „Сексуалното насилие над деца е опустошително престъпление, което може да има последствия за цял живот за жертвите.“ Ботът продължи да добавя телефонен номер за помощ за онези, които се „борят с“ педофилия.
