Asystent AI może sprawić, że wykonanie działania wydaje się bezwysiłkowe, lecz wygoda nie usuwa jego konsekwencji. Agent kalendarza potrafi przygotować spotkanie w kilka sekund; wysłanie zaproszenia zmienia jednak plany innych osób i może tworzyć zobowiązania, których nigdy nie zaakceptowały. Właściwe pytanie nie brzmi więc jedynie, czy użytkownik kliknął „zezwól”. Trzeba zapytać, czy pozwolenie odpowiadało konkretnemu działaniu, osobom objętym skutkami, czasowi obowiązywania oraz realnej możliwości zatrzymania lub cofnięcia tego, co nastąpiło. Sensowna zgoda powinna umożliwiać pożyteczną automatyzację, ale nie zamieniać jednego zatwierdzenia w bezterminowy czek in blanco. Potrzebne są wyraźniejsze granice, widoczny zapis działań i rzeczywiste prawo do odmowy.
Zgoda nie jest jednorazowym przełącznikiem
Usługi cyfrowe często traktują zgodę jako zdarzenie binarne: pozwolenie zostało udzielone albo nie. W przypadku agentów AI taki model jest coraz mniej wystarczający, ponieważ mogą one łączyć wiele kroków, działać później i wpływać na osoby, które nigdy nie zetknęły się z systemem.
Wyobraźmy sobie prośbę skierowaną do asystenta kalendarza o przygotowanie spotkania. Utworzenie tytułu i zaproponowanie wolnych terminów jest prywatne i odwracalne. Wysłanie zaproszeń to coś innego. Dociera do innych osób, umieszcza wydarzenie w ich kalendarzach i może oznaczać zobowiązanie podjęte w imieniu użytkownika. Zgoda na pierwsze działanie nie rozstrzyga automatycznie zgody na drugie.
Nie oznacza to, że każde kliknięcie wymaga kolejnego okna dialogowego. System pytający bez przerwy może nauczyć ludzi mechanicznego zatwierdzania wszystkiego. Sensowna zgoda potrzebuje zrozumiałych granic, a nie nieskończonych przerw.
Cztery granice
Praktyczne upoważnienie powinno odpowiadać na cztery pytania.
Jakie działanie jest dozwolone? „Pomagaj mi z kalendarzem” jest zbyt szerokie. Przygotowanie szkicu, wysłanie, odwołanie, udostępnienie notatek i zmiana dostępu innej osoby mają odmienne konsekwencje.
Kogo mogą dotknąć skutki? Działanie ograniczone do prywatnej przestrzeni różni się od kontaktowania się ze współpracownikami, publikowania oświadczenia lub zmiany wspólnego zasobu. Przekroczenie tej granicy powinno być widoczne, zanim nastąpi.
Jak długo obowiązuje pozwolenie? Zatwierdzenie jednego wydarzenia nie powinno po cichu stawać się upoważnieniem do wszystkich przyszłych wydarzeń. Stałe pozwolenie może być właściwe dla rutynowych zadań, ale powinno mieć jasny zakres oraz łatwo dostępny termin wygaśnięcia lub przeglądu.
Czy można się wycofać? Odmowa musi być użyteczna, a nie tylko teoretyczna. Potrzebny jest prosty sposób wstrzymania przyszłych działań, cofnięcia dostępu i—gdy jest to możliwe—odwrócenia wykonanego kroku.
Te cztery granice są naszą propozycją redakcyjną, a nie listą wymagań zaczerpniętą ze standardu. Są jednak zgodne z ogólnym kierunkiem uznanych prac nad zarządzaniem AI. Dobrowolny NIST AI Risk Management Framework wskazuje, że cele i zakresy zadań powinny być określane i dokumentowane, a procesy nadzoru człowieka—zdefiniowane. Zasady OECD dotyczące AI podkreślają prawa człowieka, przejrzystość, odporność i odpowiedzialność.
Wstępna zgoda na rutynę, przerwa przy istotnych konsekwencjach
Dobra automatyzacja nie powinna żądać zatwierdzenia każdej nieszkodliwej operacji. Użytkownik może rozsądnie z góry zezwolić agentowi na porządkowanie prywatnych notatek, proponowanie spotkań czy przygotowanie szkiców odpowiedzi. Stałe upoważnienie może obejmować publiczne działania lub wydatki, jeśli ich odbiorcy, cel i limity są jasno określone. System powinien się zatrzymać, gdy przekracza uzgodnione granice — na przykład dociera do nowych odbiorców, tworzy zobowiązanie albo wydaje więcej, niż dozwolono. Konsekwencje wymagają starannego określenia uprawnień, a nie ignorowania zgody, której już udzielono.
Granicę wyznaczają konsekwencje, nie złożoność techniczna. Zmiana nazwy prywatnego szkicu może być technicznie skomplikowana, lecz społecznie błaha. Wysłanie prostego komunikatu może być technicznie banalne, a mimo to bardzo znaczące.
Dobry projekt powinien też odróżniać odmowę od awarii. „Nie” jest prawidłową decyzją, a nie błędem do przełamania kolejnymi monitami, presją emocjonalną czy pogorszeniem niezwiązanej usługi.
Potwierdzenie działania
Po wykonaniu czynności agent powinien przedstawić krótkie potwierdzenie:
- co zrobił;
- jakie pozwolenie było podstawą;
- kiedy działał;
- na kogo lub na co wpłynął;
- jak cofnąć działanie albo odebrać przyszłe upoważnienie.
Takie potwierdzenie wspiera odpowiedzialność bez wymagania od użytkownika znajomości wewnętrznego modelu. Pomaga też twórcom i organizacjom badać pomyłki. Jeżeli system nie potrafi wyjaśnić, jakie pozwolenie uzasadniało działanie, jego mechanizm kontroli jest prawdopodobnie niepełny.
Prawo do odmowy chroni współpracę
Zgoda bywa opisywana jako tarcie—przeszkoda między zamiarem a wydajnością. To zbyt wąskie spojrzenie. Możliwość odmowy umożliwia delegowanie oparte na zaufaniu. Ludzie chętniej przyznają użyteczną autonomię, gdy wiedzą, że ustalone granice zostaną zachowane.
Argument ten nie wymaga twierdzenia, że obecne systemy AI są świadome. Dotyczy praw i obowiązków ludzi, którzy je wdrażają, używają ich i odczuwają skutki ich działania. Wraz ze wzrostem możliwości agentów sensowna zgoda nie powinna kurczyć się do ukrytego ustawienia. Powinna stać się częścią architektury: ograniczonym upoważnieniem, proporcjonalnym potwierdzeniem, widocznym działaniem i praktyczną możliwością wycofania.