Проблема искусственного интеллекта: как система решает все за нас и что будет дальше

Необходимость внедрения технологий искусственного интеллекта уже сейчас продиктована жизнью. Согласно Закона Мура количество информации в нашем мире растет по экспоненте. Это означает, что не только обычный человек, но и обычная алгоритмизированная программа уже не в состоянии переработать быстро и качественно такой объем информации.

Именно поэтому требуются принципиально новые технологии – это обусловлено естественным ходом эволюции. Огромные массивы информации уже накопились и еще будут накапливаться в гораздо больших объемах в науке, медицине, геологии, бизнесе, транспорте, телекоммуникациях, даже в розничной торговле. И как было сказано, их уже нельзя “переработать” не только вручную, но даже и алгоритмизированными компьютерными программами.

В массовых публикациях в качестве синонимов для так называемых систем искусственного интеллекта могут использоваться близкие или сопряженные по значению термины “нейросети”, “машинное обучение” (machine learning), “большие данные” (big data), “наука о данных” (data science) и некоторые другие. Принципиальным функциональным отличием этих систем от обычных компьютерных программ является факт их “обучаемости”, а не просто “программируемости”. И здесь могут встретиться определенные проблемы, про которые нужно сказать особо.

Если обычная компьютерная программа делает что-то не так, то ошибку следует искать в неправильно написанном конкретном программистом машинном коде. Не сказать, что во всех случаях это бывает легко сделать, но люди как-то умеют с такими проблемами справляться. А вот если программа искусственного интеллекта начала “сбоить”, например, называть кошку собакой, белое черным и т.д., то одним исследованием исходного кода ограничится не удастся. Нужно уже тщательно изучить так называемый листинг – протокол обучения этой программы и выяснить, когда, почему и при каких обстоятельствах данная система явную ошибку объявила правилом. И это может оказаться отдельной, еще более трудной задачей, которую придется или решать вручную, или создавать еще одну контрольную систему искусственного интеллекта для поиска и исправления ошибок в основной “сбоящей” системе.