Науковиці відмовили у проживанні в Канаді через “факти”, які вигадала ШІ-система
Джерело: Toronto Star
Науковиці з докторським ступенем відмовили у посвідці на проживання в Канаді. Таке рішення ухвалили на підставі “фактів”, які вигадала ШІ-система міграційної служби.
Кемі Аде була шокована листом про відмову в імміграції. Відхиляючи її запит на посвідку на постійне проживання Департамент міграції послався на її посадові обов’язки, які включали монтаж та збір схем управління, створення панелей управління та роботів, програмування та усунення неполадок.
Департамент заявив, що ці обов’язки не відповідають її заявленому досвіду роботи у Канаді.
Але річ у тому, що Аде – наукова співробітниця та запрошена викладачка в Університеті Макмастера, і вище вказані уміння не входять до її професійного арсеналу. Вона не вказувала їх у своїй заяві на імміграцію рік тому.
“Я побачила формулювання в описі цієї роботи, яка не має до мене жодного стосунку. Я була шокована, як таке могло статись”, – сказала французька вчена у сфері охорони здоров’я.
Пояснити, що сталось може речення внизу листа про відмову. Вважається, що це перший випадок, коли департамент згадав про використання ШІ для підтримки оброблення заяв про відмову в імміграції.
У заяві також вказано, що весь згенерований контент було перевірено співробітником, і що генеративний ШІ не використовувався для ухвалення чи рекомендації рішення.
Критики кажуть, що їх тривожить використання ШІ при оцінюванні заяв на економічні імміграцію, які часто є складнішими. Вони зазначають, що це може призвести до хаосу та втрати довіри суспільства до системи.
На відміну від традиційного ШІ, який класифікує та робить прогнози на основі існуючих даних, генеративний ШІ активно застосовує вивчені закономірності для синтезу інформації і здатен створювати новий контент.
Той факт, що “згенерований контент” відмови Аде був перевірений співробітником міграційної служби, викликав додаткові занепокоєння.
“Я не можу зрозуміти, як людина могла ухвалити таке рішення. Якимось чином він видав галюцинації, пов’язані з посадовими обов’язками мого клієнта. Я б дуже хотів побачити те, що побачив співробітник. Тут щось серйозно пішло не так”, – сказав Лука Вукелич, адвокат Аде.
Аде відмовили наприкінці лютого, у той час, коли імміграційний департамент опублікував свою першу стратегію ШІ, в якій було окреслено, як посадовці використовуватимуть штучний інтелект “для підвищення ефективності, покращення надання послуг та зміцнення цілісності програм”.
Департамент заявив, що посадовці використовують цифрові інструменти, включаючи передову аналітику та автоматизацію, з 2013 року, щоб забезпечити “швидше та послідовніше” надання послуг і допомогти в забезпеченні цілісності програм. Ці інструменти допомагають виявляти ознаки шахрайства та сортувати заявки, серед інших завдань.
За його словами, наразі посадовці експериментують із загальнодоступними інструментами Gen AI, щоб допомогти у “мозковому штурмі, дослідженні, узагальненні та аналізі інформації, а також із власними інструментами Gen AI”, які можуть, наприклад, допомогти у дослідженнях.
У відповідь на справу Аде департамент стверджував, що рішення було прийнято людиною-офіцером, і Gen AI не грав жодної ролі в процесі прийняття рішень.
Професор права Університету Макгілла Дженніфер Расо є експертом з цифрового урядування та державного управління, її дослідження вивчає, як особи, що приймають рішення на передовій, взаємодіють з цифровими інструментами.
Хоча зменшення кількості нерозглянутих заявок на постійну та тимчасову імміграцію (наразі близько мільйона заявок на постійну та тимчасову імміграцію перевищують стандарти обслуговування) та пришвидшення обробки є важливими, за її словами, існує реальна небезпека покладатися на ці інструменти, а не інвестувати в сильну державну службу.
Правила, що застосовуються цифровими інструментами, часто засекречені, оскільки урядовці бояться, що розголошення інформації допоможе людям обійти систему. Це проблема, тому що люди повинні знати, як будуть оцінюватися їхні заяви, сказала Расо.
“У який момент було використано покоління штучного інтелекту?. Ми говоримо про узагальнення документів? Чи взагалі офіцер переглядає ці (оригінальні) документи? Чи перекладені ці документи за допомогою штучного інтелекту чи ні?” – сказала вона.
“Це важливі питання. Інструменти генеративного штучного інтелекту не дуже добре справляються з узагальненням. Звичайно, ви можете захотіти знати, про які інструменти штучного інтелекту йдеться”.
- Генеральний директор Meta Марк Цукерберг розробляє персонального агента зі штучним інтелектом, який зможе автономно виконувати частину його управлінських обов’язків.
Президент США Дональд Трамп знову зажадав від нафтових компаній знизити ціни на бензин для американців. Окремо він розкритикував керівника Chevron за те, що той не відзначив роль адміністрації у підтримці галузі.
3 серпня внаслідок російського удару по автозаправній станції у Широківській громаді, що на Дніпропетровщині, загинули троє осіб.
Оля Полякова звернулася до Суспільного з пропозиціями щодо правил майбутнього Нацвідбору на “Євробачення”. Співачка просить відмовитися від автоматичної заборони для всіх артистів, які виступали в Росії після 2014 року, та оцінювати кожну історію окремо.
Росія сформувала найбільший за всю історію арктичний нафтовий конвой для транспортування сировини до Азії через Північний морський шлях. Нині танкери підготували для перевезення близько 8 млн барелів нафти.
Румунська енергетична компанія Nuclearelectrica розпочала закупівлю електроенергії з України, аби компенсувати дефіцит після зупинки першого енергоблоку атомної електростанції “Чернаводе”.