Науковиці відмовили у проживанні в Канаді через “факти”, які вигадала ШІ-система
Джерело: Toronto Star
Науковиці з докторським ступенем відмовили у посвідці на проживання в Канаді. Таке рішення ухвалили на підставі “фактів”, які вигадала ШІ-система міграційної служби.
Кемі Аде була шокована листом про відмову в імміграції. Відхиляючи її запит на посвідку на постійне проживання Департамент міграції послався на її посадові обов’язки, які включали монтаж та збір схем управління, створення панелей управління та роботів, програмування та усунення неполадок.
Департамент заявив, що ці обов’язки не відповідають її заявленому досвіду роботи у Канаді.
Але річ у тому, що Аде – наукова співробітниця та запрошена викладачка в Університеті Макмастера, і вище вказані уміння не входять до її професійного арсеналу. Вона не вказувала їх у своїй заяві на імміграцію рік тому.
“Я побачила формулювання в описі цієї роботи, яка не має до мене жодного стосунку. Я була шокована, як таке могло статись”, – сказала французька вчена у сфері охорони здоров’я.
Пояснити, що сталось може речення внизу листа про відмову. Вважається, що це перший випадок, коли департамент згадав про використання ШІ для підтримки оброблення заяв про відмову в імміграції.
У заяві також вказано, що весь згенерований контент було перевірено співробітником, і що генеративний ШІ не використовувався для ухвалення чи рекомендації рішення.
Критики кажуть, що їх тривожить використання ШІ при оцінюванні заяв на економічні імміграцію, які часто є складнішими. Вони зазначають, що це може призвести до хаосу та втрати довіри суспільства до системи.
На відміну від традиційного ШІ, який класифікує та робить прогнози на основі існуючих даних, генеративний ШІ активно застосовує вивчені закономірності для синтезу інформації і здатен створювати новий контент.
Той факт, що “згенерований контент” відмови Аде був перевірений співробітником міграційної служби, викликав додаткові занепокоєння.
“Я не можу зрозуміти, як людина могла ухвалити таке рішення. Якимось чином він видав галюцинації, пов’язані з посадовими обов’язками мого клієнта. Я б дуже хотів побачити те, що побачив співробітник. Тут щось серйозно пішло не так”, – сказав Лука Вукелич, адвокат Аде.
Аде відмовили наприкінці лютого, у той час, коли імміграційний департамент опублікував свою першу стратегію ШІ, в якій було окреслено, як посадовці використовуватимуть штучний інтелект “для підвищення ефективності, покращення надання послуг та зміцнення цілісності програм”.
Департамент заявив, що посадовці використовують цифрові інструменти, включаючи передову аналітику та автоматизацію, з 2013 року, щоб забезпечити “швидше та послідовніше” надання послуг і допомогти в забезпеченні цілісності програм. Ці інструменти допомагають виявляти ознаки шахрайства та сортувати заявки, серед інших завдань.
За його словами, наразі посадовці експериментують із загальнодоступними інструментами Gen AI, щоб допомогти у “мозковому штурмі, дослідженні, узагальненні та аналізі інформації, а також із власними інструментами Gen AI”, які можуть, наприклад, допомогти у дослідженнях.
У відповідь на справу Аде департамент стверджував, що рішення було прийнято людиною-офіцером, і Gen AI не грав жодної ролі в процесі прийняття рішень.
Професор права Університету Макгілла Дженніфер Расо є експертом з цифрового урядування та державного управління, її дослідження вивчає, як особи, що приймають рішення на передовій, взаємодіють з цифровими інструментами.
Хоча зменшення кількості нерозглянутих заявок на постійну та тимчасову імміграцію (наразі близько мільйона заявок на постійну та тимчасову імміграцію перевищують стандарти обслуговування) та пришвидшення обробки є важливими, за її словами, існує реальна небезпека покладатися на ці інструменти, а не інвестувати в сильну державну службу.
Правила, що застосовуються цифровими інструментами, часто засекречені, оскільки урядовці бояться, що розголошення інформації допоможе людям обійти систему. Це проблема, тому що люди повинні знати, як будуть оцінюватися їхні заяви, сказала Расо.
“У який момент було використано покоління штучного інтелекту?. Ми говоримо про узагальнення документів? Чи взагалі офіцер переглядає ці (оригінальні) документи? Чи перекладені ці документи за допомогою штучного інтелекту чи ні?” – сказала вона.
“Це важливі питання. Інструменти генеративного штучного інтелекту не дуже добре справляються з узагальненням. Звичайно, ви можете захотіти знати, про які інструменти штучного інтелекту йдеться”.
- Генеральний директор Meta Марк Цукерберг розробляє персонального агента зі штучним інтелектом, який зможе автономно виконувати частину його управлінських обов’язків.
На війні загинула офіцерка відділення комунікацій 10-ї окремої гірсько-штурмової бригади “Едельвейс” Вікторія “Квітка” Боброва.
Шукаєте, що подивитися у квітні та травні — так, щоб було цікаво і для сімейного вечора, і для перегляду наодинці? Київстар ТБ підготував сезонну добірку прем’єр і ексклюзивів, які варто не пропустити цієї весни. Тут зібрані історії для будь-якого настрою: від гучних релізів і продовжень улюблених сюжетів до оригінальних українських проєктів, що з’являться лише на платформі.
Прем’єр-міністерка Італії Джорджія Мелоні розкритикувала намір адміністрації США Дональда Трампа запросити російського диктатора Володимира Путіна на саміт G20 у Маямі.
Начальник розвідувального центру Збройних сил Естонії Антс Ківісельг повідомив, що наразі розвідувальна інформація не дає жодних підстав припускати, що Росія може відкрити новий фронт проти країн Балтії.
Співачка Біллі Айліш поділилася знімками з часів, коли була відданою фанаткою Джастіна Бібера. Всього кілька днів тому зірки ділили сцену на музичному фестивалі Coachella.