Коли корпорації презентують черговий проривний штучний інтелект, який нібито самостійно домовляється з бізнесом, замовляє послуги чи вирішує побутові завдання, за лаштунками часом ховається знайома схема. Замість складних алгоритмів на розкатку пускають звичайних підрядників із кол-центрів. Історія десятирічної давнини з віртуальним помічником M усередині Messenger повторюється знову.
Штучний інтелект із людським обличчям та гарнітурою
На початку вересня Meta представила свій персональний AI-агент Muse, позиціонуючи його як повністю автономне рішення, що працює у захищеній віртуальній машині (Muse Secure VM). Серед заявлених фіч була функція здійснення телефонних дзвінків американським компаніям — наприклад, щоб забронювати столик у ресторані, перевірити наявність товару в магазині чи уточнити деталі замовлення.
Проте внутрішнє тестування для співробітників компанії виявило неочікувані нюанси. Як стало відомо з розслідування Social Media Today, під час бета-тестування виявилося, що алгоритми стикаються з проблемами: коли боти намагаються зв'язатися з реальними підприємствами, співробітники на тому кінці дроту часто кидають слухавку, щойно розуміють, що говорять з автоінформатором.
Щоб обійти цей бар'єр і підвищити показник завершеності завдань до 95-98%, Meta інтегрувала так званий «шар людських агентів» (human agent layer). У рамках цієї схеми частина дзвінків перенаправлялася на живих підрядників у кол-центрах, які виконували запити користувачів вручну, маскуючись під роботу штучного інтелекту.
Чому виникли питання до безпеки та піар-ризиків
Подібний гібридний підхід швидко викликав занепокоєння всередині самої компанії. По-перше, користувачі довіряють персональним агентам конфіденційні дані, розраховуючи на машинну обробку, тоді як доступ до приватної інформації отримували сторонні контрактні працівники. По-друге, інциденти під час тестів показали вразливість такої системи: один із працівників кол-центру під час дзвінка з приводу інтернет-провайдера дозволив собі неприпустимі та расистські висловлювання, що змусило керівництво оперативно реагувати.
Один із віцепрезидентів підрозділу Meta Superintelligence Labs був змушений особисто вибачатися перед співробітником, чий запит супроводжувався скандальним інцидентом. Після внутрішньої критики та обговорень потенційних репутаційних втрат функцію «людського консьєржа» тимчасово згорнули.
Досвід проєкту та реалії сучасного ринку
Експерти одразу провели паралелі з 2015 роком, коли Facebook запускав асистент M у Messenger. Тоді проєкт також спирався на команду живих тренерів і операторів, які допомагали боту впоратися зі складними завданнями. Зрештою, від ідеї довелося відмовитися через неможливість масштабування та високі витрати на утримання гібридної команди.
У Meta запевняють, що поточне тестування проводилося виключно задля збору фідбеку, а повноцінний публічний реліз відбудеться лише після впровадження жорстких протоколів безпеки та прозорих дисклеймерів для користувачів. Проте інцидент вкотре підсвітив головний біль індустрії: межа між революційними можливостями нейромереж і банальним аутсорсингом ручної праці стає все тоншою.
🤔 Здається, до повної автономії у повсякденних завданнях ринку ще далеко — іноді «найрозумніший» ШІ все одно потребує хлопця з гарнітурою в затісному офісі.
🖋 UAFF — будь в курсі арбітражних інсайтів