ШІ-пошук Google дає небезпечні поради щодо здоров’я – розслідування
Джерело: The Guardian
Розслідування The Guardian виявило, що користувачі можуть наражатися на ризик для здоров’я через недостовірну медичну інформацію, яку показують ШІ-зведення в пошуковій системі Google.
Йдеться про функцію AI Overviews, яка за допомогою генеративного штучного інтелекту формує короткі відповіді на запити та відображає їх у верхній частині результатів пошуку. У Google називають ці зведення “корисними” та “надійними”, однак журналісти виявили низку прикладів із серйозними помилками.
В одному з випадків, який експерти охарактеризували як “справді небезпечний”, Google порадив людям із раком підшлункової залози уникати жирної їжі. Фахівці наголосили, що це суперечить медичним рекомендаціям і може погіршити стан пацієнтів.
“Це абсолютно неправильно і може бути дуже небезпечно”, – заявили фахівці, пояснивши, що така порада може призвести до втрати ваги та унеможливити проведення хіміотерапії або операції.
В іншому випадку AI Overviews надали хибну інформацію про аналізи функції печінки, через що люди з серйозними захворюваннями могли помилково вважати себе здоровими. Також неточні дані з’являлися у відповідях щодо онкологічних обстежень для жінок. Зокрема, пап-тест було подано як метод діагностики раку піхви, що є неправильним.
Крім того, The Guardian виявив проблеми з відповідями ШІ щодо психічного здоров’я. За словами експертів, деякі поради були “небезпечними” та могли відвернути людей від звернення по професійну допомогу.
У Google заявили, що більшість ШІ-зведень є точними, а компанія постійно вдосконалює їхню якість, особливо щодо тем, пов’язаних зі здоров’ям. Представник компанії наголосив, що в разі помилкового тлумачення контенту Google вживає заходів відповідно до внутрішніх політик.
“Ми значно інвестуємо в якість AI Overviews, і переважна більшість із них надає коректну інформацію”, – заявили в компанії.
Американські посадовці почали обговорення фінансових стимулів для населення Гренландії в межах стратегії з придбання острова. Пропозиції варіюються від 10 до 100 тисяч доларів на особу, що викликає різку критику в Копенгагені та Нууці.
Міністерство охорони здоров’я та соціальних служб США (HHS), керівника якого призначив Дональд Трамп, висунуло вимогу уникати використання сотень слів у заявках на федеральні гранти для програм підтримки дітей.
Федеральне відомство з охорони конституції Німеччини (BfV) поінформувало про посилення спроб Росії роздобути у Німеччині технології, придатні для військового застосування.
Через ризик значної повітряної операції ворога Посольство США в Україні перейшло в режим підвищеної застережливості. Громадянам радять не нехтувати сигналами безпеки, оскільки атака може бути масштабною та охопити всі без винятку регіони країни.
У зв’язку з суттєвим зниженням температури повітря Кабмін доручив відповідальним відомствам опрацювати питання стосовно переходу на дистанційне навчання та роботу. Рішення ухвалюватимуться з урахуванням висновків комісій ТЕБ та НС і реальної ситуації у регіонах.