Odpowiedzialność poprzez projektowanie – Dlaczego AI musi być ukierunkowane na człowieka

Sztuczna inteligencja zmienia cyfrowe doświadczenia, które definiują nasze codzienne życie. Od personalizowanych rekomendacji produktów i przewidywanej opieki zdrowotnej po jazdę autonomiczną i nawet kolejki w parkach rozrywki, AI sprawia, że te doświadczenia są tańsze, bardziej efektywne i nawet przyjemniejsze. Przynajmniej, takie jest obietnice.

Ale zbyt często spotykamy się z nagłówkami o tzw. “AI fail” — momentach, kiedy użytkownicy czują się wprowadzeni w błąd, sfrustrowani lub po prostu niezrozumiani. I kiedy zaufanie się łamie, tak samo jak potencjał AI, aby być naprawdę znaczącym i skutecznym.

Zaufanie publiczne się erozyjnie. Dlaczego? Ponieważ większość systemów nie jest zaprojektowana z myślą o doświadczeniu człowieka – są one zaprojektowane dla tego, co jest szybkie, skalowalne i opłacalne. To powinno być powodem do niepokoju dla firm wszystkich rozmiarów, które podwajają swoje inwestycje w AI.

Aby zbudować zaufanie, firmy muszą się zatrzymać i zadać głębsze pytania: Dlaczego budujemy ten system? Czy powinien on być w ogóle zbudowany? Innymi słowy, czy projektujemy AI, aby służyć potrzebom ludzkim – czy zmuszamy ludzi do adaptacji do logiki maszyn?

Luka zaufania z AI

Zbyt często AI jest rozwijany w izolowanych środowiskach technicznych, gdzie sukces jest mierzony przez dokładność lub szybkość, a nie wpływ społeczny lub użyteczność. Myślenie etyczne, podstawowy składnik zaufania, nie jest automatycznie wbudowane w pipeline rozwoju AI. To rozłączenie powoduje, że systemy, które mogą być innowacyjne w teorii, nie spełniają oczekiwań w praktyce.

Weźmy czatbota Air Canada, który z pewnością wprowadził w błąd klienta co do polityki opłat za żałobę, tylko po to, by firma twierdziła, że nie jest odpowiedzialna za to, co powiedział czatbot. Albo czatbota AI Meta, który przedstawił nieprawdziwe oświadczenia w wynikach wyszukiwania. Te przykłady ujawniają więcej niż techniczne błędy; ujawniają systematyczne niepowodzenie w projektowaniu aplikacji AI z empatią, zabezpieczeniami i kontekstem rzeczywistym.

Publiczność zauważyła to. Według Pew Research Center, 59% Amerykanów i 55% ekspertów AI ma niewielką lub żadną ufność w to, że amerykańskie firmy będą rozwijać AI w sposób odpowiedzialny. To luka zaufania, której nie możemy zignorować.

Projektowanie ukierunkowane na człowieka nie jest luksusem

Projektowanie nie jest ozdobą dla AI. Jest to podstawowe dla tego, jak się zachowuje i jak jest postrzegane przez użytkowników końcowych. Projektowanie ukierunkowane na człowieka zaczyna się od zrozumienia ludzi, dla których projektujemy: ich celów, frustracji, wartości i doświadczeń życiowych.

Jest to niezbędne podczas procesu projektowania, aby zadać bardzo konkretnych pytania, aby upewnić się, że technologia służy potrzebom ludzkim, a nie odwrotnie, definiując:

• Komu projektujemy?
• Jakie są ich cele, wartości i wyzwania?
• Jak oni wchodzą w interakcje z systemami emocjonalnie i funkcjonalnie?
• Czy produkt jest godny zaufania i czy robi to, co obiecuje?
• Czy promuje on inkluzję i dostępność dla wszystkich rodzajów ludzi?

To nie są abstrakcyjne pytania. Bezpośrednio kształtują, jak AI działa w praktyce. I w kontekstach o wysokich stawkach, takich jak opieka zdrowotna, bezpieczeństwo lub edukacja, mogą one określić, czy system jest inkluzyny i sprawiedliwy, czy mylący i szkodliwy.

Co to jest lepszy projekt

Projektanci łączą potrzeby ludzkie z możliwościami maszyn poprzez proces prototypowania, testowania i iteracji, co zapewnia, że produkty mają sens dla ludzi, którzy ich używają. To obejmuje pytania o to, jak AI komunikuje, jakie decyzje automatyzuje i jaką kontrolę oferuje użytkownikowi.

Weźmy parki rozrywki jako przykład. AI jest wdrażany tym latem, aby zmniejszyć czas oczekiwania, personalizować doświadczenia i zarządzać przepływem tłumu. To obiecujący przypadek użycia. Ale sukces nie jest tylko kwestią wydajności. Dobrze zaprojektowany system będzie priorytetem doświadczenia człowieka, a nie tylko efektywności. To oznacza przejrzyste przekazywanie informacji, intuicyjne interfejsy, wyraźne opcje i alternatywne opcje dla użytkowników o specjalnych potrzebach (jak rodziny bez smartfonów lub goście z potrzebami dostępności).

Oto okazja, aby nie tylko zoptymalizować operacje biznesowe, ale również, by podnieść radość, zmniejszyć tarcie i stworzyć wspólne doświadczenia, które czują się magiczne, a nie mechaniczne. To okazja dla projektowania.

Testowanie elementu ludzkiego

W projektowaniu AI ukierunkowanym na człowieka testowanie jest kluczowe. Jest to idealne, aby włączyć potencjalnych użytkowników końcowych na wczesnym etapie i często, w celu identyfikacji potencjalnych punktów ślepoty. Kiedy użytkownicy nie mogą zrozumieć lub zaufać systemowi, system nie powiódł się, niezależnie od tego, jak imponujący jest jego backend.

Testowanie zapewnia również dostępność, która jest często pomijana w doświadczeniach napędzanych przez AI. Czatbot może być technicznie funkcjonalny, ale jeśli nie służy użytkownikom neurodywergentnym lub nie-nativnym mówcom, nie jest naprawdę funkcjonalny. Projektowanie inkluzywne nie korzysta tylko z marginesów, ale wzmacnia produkty dla każdego.

Odpowiedzialność zaczyna się od projektowania

Polityki mogą pomóc ustalić granice i zapobiec najgorszym wynikom. Tak więc ramy, takie jak EU AI Act i Blueprint for an AI Bill of Rights, są kluczowymi krokami. Ale zgodność jest tylko podłogą. Projektowanie jest tym, jak sięga się do sufitu.

Firmy muszą wyjść poza listy kontrolne, aby zbudować systemy AI, które wspierają godność, agencję i nadzór. To oznacza opór przed pełną automatyzacją osądu ludzkiego i zamiast tego projektowanie narzędzi, które je wspierają. Odpowiedzialne AI nie kasuje kontroli ludzkiej; wręcz przeciwnie, je wzmacnia.

To praca nie jest tylko techniczna. Wymaga zespołów multidyscyplinarnych projektantów, inżynierów, ekspertów politycznych i etyków, którzy pracują razem od samego początku. To oznacza projektowanie z ludźmi, a nie tylko dla nich.

Rola projektantów w kształtowaniu AI

Projektanci odgrywają unikalną rolę w kształtowaniu trajektorii AI. Są tłumaczami, którzy są biegle znający zarówno logicę maszyn, jak i złożoność życia ludzkiego. Projektanci są szkoleni, aby rozpoznać punkty tarcia, sygnały emocjonalne i implikacje społeczne, które same dane nie mogą uchwycić.

Podobnie jak w przypadku konkretnych pytań, które zapewniają, że technologia służy potrzebom ludzkim, projektanci muszą forsować pytania, które nie mieszczą się ładnie w danych szkoleniowych, takie jak:

• Jak to sprawia, że ktoś się czuje?
• Czy użytkownik jest w kontroli?
• Co się dzieje, gdy coś pójdzie nie tak?

Zbyt często projektowanie jest wprowadzane na końcu pipeline AI, aby “wyglądać dobrze”. Ale prawdziwa moc projektowania jest strategiczna. Powinna kształtować, jak problemy są definiowane na pierwszym miejscu, a nie tylko, jak wyglądają interfejsy.

Ludzie na pierwszym miejscu, a nie maszyny

AI nie jest tylko wyzwaniem technicznym, jest to wyzwanie projektowe. I aby je spełnić, musimy postawić wartości ludzkie na pierwszym miejscu od samego początku.

AI ukierunkowane na człowieka nie jest luksusem – jest koniecznością. Tworzy systemy, które są godne zaufania, niezawodne, bezstronne, audytowalne i zgodne. Ale co więcej, tworzy produkty, które korzystają użytkownikom końcowym i podnoszą produktywność i potencjał ludzki.

Mamy narzędzia i mamy odpowiedzialność, aby zaprojektować przyszłość, w której technologia służy ludziom, a nie odwrotnie. Ta przyszłość zaczyna się od projektowania.