Науковиці відмовили у проживанні в Канаді через “факти”, які вигадала ШІ-система
Джерело: Toronto Star
Науковиці з докторським ступенем відмовили у посвідці на проживання в Канаді. Таке рішення ухвалили на підставі “фактів”, які вигадала ШІ-система міграційної служби.
Кемі Аде була шокована листом про відмову в імміграції. Відхиляючи її запит на посвідку на постійне проживання Департамент міграції послався на її посадові обов’язки, які включали монтаж та збір схем управління, створення панелей управління та роботів, програмування та усунення неполадок.
Департамент заявив, що ці обов’язки не відповідають її заявленому досвіду роботи у Канаді.
Але річ у тому, що Аде – наукова співробітниця та запрошена викладачка в Університеті Макмастера, і вище вказані уміння не входять до її професійного арсеналу. Вона не вказувала їх у своїй заяві на імміграцію рік тому.
“Я побачила формулювання в описі цієї роботи, яка не має до мене жодного стосунку. Я була шокована, як таке могло статись”, – сказала французька вчена у сфері охорони здоров’я.
Пояснити, що сталось може речення внизу листа про відмову. Вважається, що це перший випадок, коли департамент згадав про використання ШІ для підтримки оброблення заяв про відмову в імміграції.
У заяві також вказано, що весь згенерований контент було перевірено співробітником, і що генеративний ШІ не використовувався для ухвалення чи рекомендації рішення.
Критики кажуть, що їх тривожить використання ШІ при оцінюванні заяв на економічні імміграцію, які часто є складнішими. Вони зазначають, що це може призвести до хаосу та втрати довіри суспільства до системи.
На відміну від традиційного ШІ, який класифікує та робить прогнози на основі існуючих даних, генеративний ШІ активно застосовує вивчені закономірності для синтезу інформації і здатен створювати новий контент.
Той факт, що “згенерований контент” відмови Аде був перевірений співробітником міграційної служби, викликав додаткові занепокоєння.
“Я не можу зрозуміти, як людина могла ухвалити таке рішення. Якимось чином він видав галюцинації, пов’язані з посадовими обов’язками мого клієнта. Я б дуже хотів побачити те, що побачив співробітник. Тут щось серйозно пішло не так”, – сказав Лука Вукелич, адвокат Аде.
Аде відмовили наприкінці лютого, у той час, коли імміграційний департамент опублікував свою першу стратегію ШІ, в якій було окреслено, як посадовці використовуватимуть штучний інтелект “для підвищення ефективності, покращення надання послуг та зміцнення цілісності програм”.
Департамент заявив, що посадовці використовують цифрові інструменти, включаючи передову аналітику та автоматизацію, з 2013 року, щоб забезпечити “швидше та послідовніше” надання послуг і допомогти в забезпеченні цілісності програм. Ці інструменти допомагають виявляти ознаки шахрайства та сортувати заявки, серед інших завдань.
За його словами, наразі посадовці експериментують із загальнодоступними інструментами Gen AI, щоб допомогти у “мозковому штурмі, дослідженні, узагальненні та аналізі інформації, а також із власними інструментами Gen AI”, які можуть, наприклад, допомогти у дослідженнях.
У відповідь на справу Аде департамент стверджував, що рішення було прийнято людиною-офіцером, і Gen AI не грав жодної ролі в процесі прийняття рішень.
Професор права Університету Макгілла Дженніфер Расо є експертом з цифрового урядування та державного управління, її дослідження вивчає, як особи, що приймають рішення на передовій, взаємодіють з цифровими інструментами.
Хоча зменшення кількості нерозглянутих заявок на постійну та тимчасову імміграцію (наразі близько мільйона заявок на постійну та тимчасову імміграцію перевищують стандарти обслуговування) та пришвидшення обробки є важливими, за її словами, існує реальна небезпека покладатися на ці інструменти, а не інвестувати в сильну державну службу.
Правила, що застосовуються цифровими інструментами, часто засекречені, оскільки урядовці бояться, що розголошення інформації допоможе людям обійти систему. Це проблема, тому що люди повинні знати, як будуть оцінюватися їхні заяви, сказала Расо.
“У який момент було використано покоління штучного інтелекту?. Ми говоримо про узагальнення документів? Чи взагалі офіцер переглядає ці (оригінальні) документи? Чи перекладені ці документи за допомогою штучного інтелекту чи ні?” – сказала вона.
“Це важливі питання. Інструменти генеративного штучного інтелекту не дуже добре справляються з узагальненням. Звичайно, ви можете захотіти знати, про які інструменти штучного інтелекту йдеться”.
- Генеральний директор Meta Марк Цукерберг розробляє персонального агента зі штучним інтелектом, який зможе автономно виконувати частину його управлінських обов’язків.
У Зімбабве підтвердили загибель 15 громадян, які були завербовані для участі у війні Росії проти України.
В четвер, 26 березня, внаслідок російського обстрілу Херсона загинула працівниця місцевої теплоелектроцентралі (ТЕЦ).
Суд обрав запобіжний захід для Назарія Гусакова, якого підозрюють у привласненні пожертв для лікування.
Європейський Союз призупинив затвердження кредитного плану для Угорщини за оборонною програмою SAFE на понад 16 млрд євро через те, що Будапешт заблокував виділення 90 млрд євро на військову допомогу Україні, поінформувало джерело серед європейських дипломатів.
Світ більше не пропонує нам спокійних гаваней, а лише шторми різної інтенсивності. Саме тому XXIII Міжнародний форум PRNext, який 8 квітня 2026 р. відбудеться в Києві, обрав своїм цьогорічним девізом “Навігація в хаосі”.