Odpowiedzialny za design – Dlaczego AI musi być ukierunkowany na człowieka

Sztuczna inteligencja zmienia cyfrowe doświadczenia, które definiują nasze codzienne życie. Od personalizowanych rekomendacji produktów i przewidywanej opieki zdrowotnej po samochody autonomiczne i nawet kolejki w parkach rozrywki, AI sprawia, że te doświadczenia są tańsze, bardziej efektywne i nawet przyjemne. Przynajmniej, tak się obiecuje.

Ale za często spotykamy się z nagłówkami o tzw. “AI failach” – momentach, w których użytkownicy czują się wprowadzeni w błąd, sfrustrowani lub po prostu niezrozumiani. I kiedy zaufanie się łamie, tak samo jak potencjał AI, aby być naprawdę znaczącym i skutecznym.

Zaufanie publiczne się erozyjnie. Dlaczego? Ponieważ większość systemów nie jest zaprojektowana z myślą o doświadczeniu człowieka – są one zaprojektowane dla tego, co jest szybkie, skalowalne i opłacalne. To powinno być powodem do głębokiej troski dla firm wszystkich rozmiarów, które podwajają swoje inwestycje w AI.

Aby zbudować zaufanie, firmy muszą się zatrzymać i zadać głębsze pytania: Dlaczego budujemy ten system? Czy powinien on być w ogóle zbudowany? Innymi słowy, czy projektujemy AI, aby służyć potrzebom ludzkim – czy zmuszamy ludzi do adaptacji do logiki maszynowej?

Luka zaufania z AI

Zbyt często AI jest rozwijana w izolowanych środowiskach technicznych, gdzie sukces jest mierzony przez dokładność lub szybkość, a nie wpływ społeczny lub użyteczność. Myślenie etyczne, podstawowy składnik zaufania, nie jest automatycznie wbudowane w pipeline rozwoju AI. To rozłączenie powoduje, że systemy, które mogą być innowacyjne w teorii, nie spełniają oczekiwań w praktyce.

Weźmy czatbota Air Canada (AC.TO ), który z pewnością wprowadził w błąd klienta co do polityki taryf żałobnych, tylko po to, by firma twierdziła, że nie jest odpowiedzialna za to, co powiedział czatbot. Albo czatbota AI Meta, który przedstawił nieprawdziwe stwierdzenia w wynikach wyszukiwania. Te przykłady ujawniają więcej niż tylko błędy techniczne; ujawniają systematyczne niedociągnięcia w projektowaniu aplikacji AI z empatią, zabezpieczeniami i kontekstem świata rzeczywistego.

Opinia publiczna zwróciła na to uwagę. Według Centrum Badawczego Pew, 59% Amerykanów i 55% ekspertów AI ma niewielką lub żadną wiarę w to, że amerykańskie firmy będą rozwijać AI w sposób odpowiedzialny. To luka zaufania, której nie możemy zignorować.

Projektowanie ukierunkowane na człowieka nie jest luksusem

Projektowanie nie jest ozdobą dla AI. Jest to podstawowe dla tego, jak się zachowuje i jak jest postrzegane przez użytkowników końcowych. Projektowanie ukierunkowane na człowieka zaczyna się od zrozumienia ludzi, dla których projektujemy: ich celów, frustracji, wartości i doświadczeń życiowych.

Jest to niezbędne podczas procesu projektowania, aby zadać bardzo konkretnych pytania, aby upewnić się, że technologia służy potrzebom ludzkim, a nie odwrotnie, definiując:

• Kogo projektujemy?
• Jakie są ich cele, wartości i wyzwania?
• Jak oni wchodzą w interakcje z systemami emocjonalnie i funkcjonalnie?
• Czy produkt jest godny zaufania i czy robi to, co mówi, że będzie robił?
• Czy on promuje inkluzję i dostępność dla wszystkich rodzajów ludzi?

To nie są abstrakcyjne pytania. Bezpośrednio kształtują one, jak AI działa w praktyce. I w kontekstach o wysokich stawkach, takich jak opieka zdrowotna, bezpieczeństwo lub edukacja, mogą one określić, czy system jest inkluzją i sprawiedliwy, czy mylący i szkodliwy.

Co to jest lepszy design

Projektanci łączą potrzeby ludzkie z możliwościami maszynowymi poprzez proces prototypowania, testowania i iteracji, co zapewnia, że produkty mają sens dla ludzi, którzy ich używają. To obejmuje pytania o to, jak AI komunikuje się, jakie decyzje automatyzuje i jaką kontrolę oferuje użytkownikowi.

Weźmy parki rozrywki jako przykład. AI jest wdrożony tym latem, aby zmniejszyć czas oczekiwania, personalizować doświadczenia i zarządzać przepływem tłumu. To jest obiecujący przypadek użycia. Ale sukces nie jest tylko kwestią wydajności. Dobrze zaprojektowany system będzie priorytetem doświadczenia ludzkiego, a nie tylko efektywności. To oznacza przejrzyste komunikaty, intuicyjne interfejsy, wyraźne opcje i alternatywne opcje dla użytkowników o specjalnych potrzebach (jak rodziny bez smartfonów lub goście z potrzebami dostępności).

Oto okazja nie tylko do optymalizacji logistyki i operacji biznesowych na korzyść linii dolnej; to okazja do podniesienia radości, zmniejszenia tarcia i stworzenia wspólnych doświadczeń, które wydają się magiczne, a nie mechaniczne. To okazja dla designu.

Testowanie elementu ludzkiego

W projektowaniu AI ukierunkowanym na człowieka testowanie jest kluczowe. Jest to idealne, aby włączyć potencjalnych użytkowników końcowych na wczesnym etapie i często, w celu identyfikacji potencjalnych punktów ślepych. Kiedy użytkownicy nie mogą zrozumieć lub zaufać systemowi, system nie powiódł się, niezależnie od tego, jak imponujący jest jego backend.

Testowanie również zapewnia dostępność, która jest często pomijana w doświadczeniach z AI. Czatbot może być technicznie funkcjonalny, ale jeśli nie służy użytkownikom neurodywersywnym lub nie-native speakerom, nie jest naprawdę funkcjonalny. Projektowanie inkluzją nie korzysta tylko z marginesów, ale wzmacnia produkty dla każdego.

Odpowiedzialność zaczyna się od designu

Polityki mogą pomóc ustalić granice i zapobiec najgorszym skutkom. Tak więc ramy, takie jak EU AI Act i Blueprint for an AI Bill of Rights, są kluczowymi krokami. Ale zgodność jest tylko podłogą. Design jest tym, jak osiągamy sufit.

Firmy muszą wyjść poza listy kontrolne, aby zbudować systemy AI, które wspierają godność, agencję i nadzór. To oznacza opór przed pełną automatyzacją ludzkiej oceny i zamiast tego projektowanie narzędzi, które ją uzupełniają. Odpowiedzialne AI nie kasuje kontroli ludzkiej; wręcz przeciwnie, ją wzmacnia.

To nie jest tylko kwestia techniczna. Wymaga to zespołów multidyscyplinarnych projektantów, inżynierów, ekspertów politycznych i etyków, którzy pracują razem od pierwszego dnia. To oznacza projektowanie z ludźmi, a nie tylko dla nich.

Rola projektantów w kształtowaniu AI

Projektanci odgrywają unikalną rolę w kształtowaniu trajektorii AI. Są tłumaczami, którzy są biegle znający zarówno strukturalną logikę maszyn, jak i złożoność życia ludzkiego. Projektanci są szkoleni, aby rozpoznać punkty tarcia, sygnały emocjonalne i implikacje społeczne, które same dane nie mogą uchwycić.

Podobnie jak konkretnych pytań, które zapewniają, że technologia służy potrzebom ludzkim, projektanci muszą forsować pytania, które nie mieszczą się ładnie w danych szkoleniowych, takie jak:

• Jak to sprawia, że ktoś się czuje?
• Czy użytkownik jest w kontroli?
• Co się dzieje, gdy coś pójdzie nie tak?

Zbyt często design jest wprowadzany na końcu pipeline AI, aby “wyglądać dobrze”. Ale prawdziwa moc designu jest strategiczna. Powinna kształtować, jak problemy są definiowane na pierwszym miejscu, a nie tylko jak wyglądają interfejsy.

Człowiek na pierwszym miejscu, a nie maszyna

AI nie jest tylko wyzwaniem technicznym, jest to wyzwanie projektowe. I aby je spełnić, musimy postawić wartości ludzkie na pierwszym miejscu.

AI ukierunkowane na człowieka nie jest luksusem – jest koniecznością. Tworzy systemy, które są godne zaufania, niezawodne, bezstronne, audytowalne i zgodne. Ale więcej niż to, buduje produkty, które korzystają użytkownikowi końcowemu i podnoszą ludzką produktywność i potencjał.

Mamy narzędzia i mamy odpowiedzialność, aby zaprojektować przyszłość, w której technologia służy ludziom, a nie odwrotnie. Ta przyszłość zaczyna się od designu.