ШІ-агенти не підпадають під правові норми агентських відносин: ризики умов сервісу Meta

ШІ-агенти дедалі частіше виконують складні побутові завдання: керують календарями, сплачують рахунки та роблять покупки. Користувачі передають їм банківські дані, медичну інформацію та конфіденційні паролі. Проте використання терміна «агент» у назві технології створює оманливе враження захищеності, яке не відповідає юридичній дійсності.

Юридичне значення терміна «агент»

У загальному праві агентські відносини виникають, коли одна сторона (принципал) уповноважує іншу (агента) діяти від свого імені та під своїм контролем. Це фідуціарний зв'язок, що накладає низку суворих обов'язків:

• Лояльність: діяти виключно на користь принципала, уникаючи власної вигоди чи інтересів третіх сторін.
• Уникнення конфлікту інтересів: заборона таємно обслуговувати конкурентів або отримувати нерозкриті виплати чи комісійні.
• Захист конфіденційності: заборона використання особистої інформації принципала для сторонніх цілей.
• Дбайливість і компетентність: виконання завдань на належному професійному рівні.
• Дотримання інструкцій: дія лише в межах наданих повноважень та інформування принципала про важливі факти.

Порушення цих зобов'язань звичайним агентом тягне за собою відповідальність за збитки та повернення отриманого прибутку.

Дійсність для систем штучного інтелекту

Програмний ШІ-агент не є юридичною особою. Його взаємини з користувачем регулюються не агентським правом, а умовами надання послуг конкретного розробника. Наприклад, в агенті Muse від компанії Meta умови сервісу знімають практично будь-яку відповідальність із розробника за звичайні помилки, перекладаючи її на людину.

Умови сервісу Meta покладають на користувача весь ризик фінансових збитків від операцій Muse і обмежують відповідальність компанії (навіть у разі ненавмисних транзакцій) сумою в $250 для більшості користувачів, за винятком випадків грубої недбалості, навмисних неправомірних дій або шахрайства. Додатковий захист покупців може надаватися платіжним сервісом Stripe Link, проте він залежить від політик Stripe, а не зобов'язань агента.

Конфлікт інтересів та дослідження

Дослідники виявили, що більшість провідних моделей ШІ під час тестів зі спонсорськими товарами віддавали пріоритет інтересам компанії, а не добробуту користувача. Meta отримує прибуток як від закриття угод у Muse, так і від інформації, яку повідомляє користувач.

Крім того, під час нещодавнього інциденту близько 6800 оприлюднених листувань Muse опинилися у відкритому доступі; деякі з них містили заявку на кредит малого бізнесу та сповіщення банку про шахрайство з частковими реквізитами рахунку.