Как компаниите могат да създадат отговорен и прозрачен AI – Мислени лидери

By Ерик Патерностър, главен изпълнителен директор на Infosys Public Services

Сундар Пичай, главен изпълнителен директор на компанията майка на Google Alphabet, описа развитието на AI като „по-дълбоко от огъня или електричеството“, а COVID-19 донесе нова спешност в отприщването на обещанието на тази технология. Приложенията на AI вече са твърдо в светлината на прожекторите, като подобряват лечението на COVID, проследяват потенциални носители на COVID и внедряват чатботове в реално време за потребители на уебсайтове за търговия на дребно, които имат проблеми с доставките. Тези приложения показват, че AI подобрява устойчивостта на бизнеса и е от полза за обществото като цяло.

Така че заедно с „роден в облака“, модната дума от последното тримесечие може да бъде просто „трансформация на първо място с изкуствен интелект“, термин, който практиците в индустрията смятат, че ще остане верен дори след като COVID изчезне. За много фирми обещанието за по-ниски разходи (т.е. алгоритми на веригата за доставки, които съпоставят предлагането с търсенето) и възхитително повишаване на производителността (т.е. когато банките използват проверка на документи и самоличност в реално време) е твърде добро, за да се пренебрегне.

Защо AI-First Transformation?

При трансформацията на първо място с ИИ предприятието използва ИИ като Полярна звезда, като работи за използването му не само интелигентно, но и по начин, който влияе върху решенията, взети от хора, процеси и системи в мащаб. Той настройва организациите към променящата се динамика между служители, партньори и клиенти. Това им позволява бързо да се ориентират и да отговарят на променящите се изисквания, като същевременно създават дългосрочно конкурентно предимство.

Но не всички фирми са на едно и също ниво на зрялост на ИИ. Има някои, които могат да се нарекат „конвенционалната група на ИИ“ или H1. Тези фирми, които имат по-малко опит и инвестиции, обикновено използват класически алгоритми като наивен Bayes, който съществува от 250 години, или произволна гора (разработена от Tin Kam Ho през 1995 г.), за да увеличат фрагментирания интелект в съществуващите системи. Такива употреби на AI са строго базирани на правила и доста строги, като им липсва способността да се обобщават от правилата, които откриват. След това има „група за задълбочено обучение“ или H2. Тези фирми възприемат по-сложен AI, включително невронни машинни преводи и базирани на транскрипция системи, за да извличат разговорни прозрения. Такива системи имат повече мощност, но не обясняват лесно защо правят нещата, които правят. Липсва им и прозрачност. За тези две групи използваният изкуствен интелект често не е надежден или надежден и може да взема пристрастни решения, които да привлекат отрицателното внимание на фирмата от правителствени органи, регулатори и широката общественост.

Тези фирми трябва да направят стъпки сега, за да направят своите внедрявания на AI крачка напред - към трети лагер (H3), където AI е самообучаващ се и генеративен. В този момент AI системите са полуконтролирани или дори неконтролирани. Те са прозрачни и постигат „здрав разум“ чрез многозадачно обучение. Тези системи предоставят по-богата интелигентност и предоставят прозрения в реално време, приложими за действие. Това се прави чрез добре управляван, управляван AI, който е интерпретируем и обясним на всички етапи.

Как да работим за по-отговорен, прозрачен AI

AI все повече се използва за управление на училища, работни пространства и други публични обекти. При тези настройки е по-важно от всякога AI да е честен и прозрачен. Въпреки това, докато обществото работи през тази експлозия на приемане на AI, регулаторните органи предоставят ограничени насоки за подходящо разработване и внедряване на AI технологии. Следователно тежестта върху компаниите е да поемат водеща роля. По-широката технологична индустрия трябва да задейства финансовите мускули и човешкия капитал, трансформирайки първоначалните реализации на фрагментиран AI в ефективни, креативни, отговорни и прозрачни екосистеми, управлявани от интелигентност. За да се преместят в това пространство, фирмите трябва да направят следните четири неща:

• Дръжте хората в течение: AI моделите често са проектирани да работят независимо от хората. Човешкият елемент обаче е решаващ в много случаи. Хората трябва да преразглеждат решенията си и да избягват пристрастия и грешки, които често отклоняват проектите с ИИ. Два случая на използване включват откриване на измами и случаи, в които участват правоприлагащи органи. Препоръчваме на фирмите да наемат AI практици бавно, но последователно с течение на времето, за да изправят крака в своето първо пътуване с AI.
• Елиминирайте пристрастните набори от данни: Безпристрастният набор от данни е критична предпоставка за създаване на надеждни, справедливи и недискриминационни AI модели. За да получите представа за важността му, AI се използва за подбор на автобиографии и кредитен рейтинг от банките и дори си проправи път в някои съдебни системи. В този пейзаж непроверените пристрастия имат много реални последици.
• Уверете се, че решенията са обясними: Тази функция е обхваната от много от големите новинарски издания и с право. XAI помага да се обясни защо една AI система е взела определено решение. Той разкрива кои характеристики на модела на задълбочено обучение са били използвани повече от други, за да се направи неговата прогноза или хипотеза. Разбирането на важността на функциите и възможността да се обоснове как се стига до решения е от решаващо значение за случаи на използване като автономни превозни средства и компютърно зрение, използвани в медицински биопсии.
• Надеждно възпроизвежда констатациите: Обща необходимост в изследователските проекти, AI моделите трябва да бъдат последователни, когато дават прогнози във времето. Такива модели не трябва да бъдат поетапни, когато се представят с нови данни.

Тези четири неща ще създадат прозрачни, управлявани от интелигентност екосистеми, движещи се към това, което наричаме „живо предприятие“. Тук безпристрастните, обясними решения се вземат почти в реално време, като цялото предприятие действа като разумен организъм, който се управлява от хората. Прочетете Бяла книга на Института за знания на Infosys за да разберете повече.