Науковиці відмовили у проживанні в Канаді через “факти”, які вигадала ШІ-система
Джерело: Toronto Star
Науковиці з докторським ступенем відмовили у посвідці на проживання в Канаді. Таке рішення ухвалили на підставі “фактів”, які вигадала ШІ-система міграційної служби.
Кемі Аде була шокована листом про відмову в імміграції. Відхиляючи її запит на посвідку на постійне проживання Департамент міграції послався на її посадові обов’язки, які включали монтаж та збір схем управління, створення панелей управління та роботів, програмування та усунення неполадок.
Департамент заявив, що ці обов’язки не відповідають її заявленому досвіду роботи у Канаді.
Але річ у тому, що Аде – наукова співробітниця та запрошена викладачка в Університеті Макмастера, і вище вказані уміння не входять до її професійного арсеналу. Вона не вказувала їх у своїй заяві на імміграцію рік тому.
“Я побачила формулювання в описі цієї роботи, яка не має до мене жодного стосунку. Я була шокована, як таке могло статись”, – сказала французька вчена у сфері охорони здоров’я.
Пояснити, що сталось може речення внизу листа про відмову. Вважається, що це перший випадок, коли департамент згадав про використання ШІ для підтримки оброблення заяв про відмову в імміграції.
У заяві також вказано, що весь згенерований контент було перевірено співробітником, і що генеративний ШІ не використовувався для ухвалення чи рекомендації рішення.
Критики кажуть, що їх тривожить використання ШІ при оцінюванні заяв на економічні імміграцію, які часто є складнішими. Вони зазначають, що це може призвести до хаосу та втрати довіри суспільства до системи.
На відміну від традиційного ШІ, який класифікує та робить прогнози на основі існуючих даних, генеративний ШІ активно застосовує вивчені закономірності для синтезу інформації і здатен створювати новий контент.
Той факт, що “згенерований контент” відмови Аде був перевірений співробітником міграційної служби, викликав додаткові занепокоєння.
“Я не можу зрозуміти, як людина могла ухвалити таке рішення. Якимось чином він видав галюцинації, пов’язані з посадовими обов’язками мого клієнта. Я б дуже хотів побачити те, що побачив співробітник. Тут щось серйозно пішло не так”, – сказав Лука Вукелич, адвокат Аде.
Аде відмовили наприкінці лютого, у той час, коли імміграційний департамент опублікував свою першу стратегію ШІ, в якій було окреслено, як посадовці використовуватимуть штучний інтелект “для підвищення ефективності, покращення надання послуг та зміцнення цілісності програм”.
Департамент заявив, що посадовці використовують цифрові інструменти, включаючи передову аналітику та автоматизацію, з 2013 року, щоб забезпечити “швидше та послідовніше” надання послуг і допомогти в забезпеченні цілісності програм. Ці інструменти допомагають виявляти ознаки шахрайства та сортувати заявки, серед інших завдань.
За його словами, наразі посадовці експериментують із загальнодоступними інструментами Gen AI, щоб допомогти у “мозковому штурмі, дослідженні, узагальненні та аналізі інформації, а також із власними інструментами Gen AI”, які можуть, наприклад, допомогти у дослідженнях.
У відповідь на справу Аде департамент стверджував, що рішення було прийнято людиною-офіцером, і Gen AI не грав жодної ролі в процесі прийняття рішень.
Професор права Університету Макгілла Дженніфер Расо є експертом з цифрового урядування та державного управління, її дослідження вивчає, як особи, що приймають рішення на передовій, взаємодіють з цифровими інструментами.
Хоча зменшення кількості нерозглянутих заявок на постійну та тимчасову імміграцію (наразі близько мільйона заявок на постійну та тимчасову імміграцію перевищують стандарти обслуговування) та пришвидшення обробки є важливими, за її словами, існує реальна небезпека покладатися на ці інструменти, а не інвестувати в сильну державну службу.
Правила, що застосовуються цифровими інструментами, часто засекречені, оскільки урядовці бояться, що розголошення інформації допоможе людям обійти систему. Це проблема, тому що люди повинні знати, як будуть оцінюватися їхні заяви, сказала Расо.
“У який момент було використано покоління штучного інтелекту?. Ми говоримо про узагальнення документів? Чи взагалі офіцер переглядає ці (оригінальні) документи? Чи перекладені ці документи за допомогою штучного інтелекту чи ні?” – сказала вона.
“Це важливі питання. Інструменти генеративного штучного інтелекту не дуже добре справляються з узагальненням. Звичайно, ви можете захотіти знати, про які інструменти штучного інтелекту йдеться”.
- Генеральний директор Meta Марк Цукерберг розробляє персонального агента зі штучним інтелектом, який зможе автономно виконувати частину його управлінських обов’язків.
Модель Барбара Палвін та актор Ділан Спроус чекають на першу дитину. Про вагітність пара повідомила 14 травня в Instagram після появи на червоній доріжці Каннського кінофестивалю.
У Києві триває пошуково-рятувальна операція після масованої російської атаки в ніч на 14 травня. За останніми даними, загинули 16 осіб, серед них – двоє дітей.
Президент Володимир Зеленський провів зустріч із представниками американського аналітичного центру Hudson Institute, під час якої поінформував їх про наслідки останніх російських обстрілів України.
Режисер Пітер Джексон підтвердив, що працює над продовженням анімаційного фільму “Пригоди Тінтіна”. Про це він розповів на Каннському кінофестивалі, де отримав почесну “Золоту пальмову гілку”.
Прем’єр-міністр Ізраїлю Беньямін Нетаньягу та глава МЗС Гідеон Саар заявили про намір подати позов проти The New York Times. Причиною стала колонка журналіста Ніколаса Крістофа про ймовірні випадки сексуального насильства над палестинцями в ізраїльських місцях утримання.