+7 915-347-87-44, +7 499-909-33-03

Пн-Пт: 9:00 – 18:00 (МСК)

Главная --> Инновации --> Проблема искусственного интеллекта

Проблема искусственного интеллекта: как система решает все за нас и что будет дальше

Ответы на вопросы еженедельника "Аргументы недели"

По мнению автора основная проблема искусственного интеллекта заключается в том, что подобные системы легко обратить во зло человечеству и необходим общественный контроль над подобными системами.

Фото проблема искусственного интеллекта

Проблема искусственного интеллекта. Чего ждать?

Необходимость внедрения технологий искусственного интеллекта уже сейчас продиктована жизнью. Согласно Закона Мура количество информации в нашем мире растет по экспоненте. Это означает, что не только обычный человек, но и обычная алгоритмизированная программа уже не в состоянии переработать быстро и качественно такой объем информации.

Именно поэтому требуются принципиально новые технологии – это обусловлено естественным ходом эволюции. Огромные массивы информации уже накопились и еще будут накапливаться в гораздо больших объемах в науке, медицине, геологии, бизнесе, транспорте, телекоммуникациях, даже в розничной торговле. И как было сказано, их уже нельзя “переработать” не только вручную, но даже и алгоритмизированными компьютерными программами.

В массовых публикациях в качестве синонимов для так называемых систем искусственного интеллекта могут использоваться близкие или сопряженные по значению термины “нейросети”, “машинное обучение” (machine learning), “большие данные” (big data), “наука о данных” (data science) и некоторые другие. Принципиальным функциональным отличием этих систем от обычных компьютерных программ является факт их “обучаемости”, а не просто “программируемости”. И здесь могут встретиться определенные проблемы, про которые нужно сказать особо.

Если обычная компьютерная программа делает что-то не так, то ошибку следует искать в неправильно написанном конкретном программистом машинном коде. Не сказать, что во всех случаях это бывает легко сделать, но люди как-то умеют с такими проблемами справляться. А вот если программа искусственного интеллекта начала “сбоить”, например, называть кошку собакой, белое черным и т.д., то одним исследованием исходного кода ограничится не удастся. Нужно уже тщательно изучить так называемый листинг – протокол обучения этой программы и выяснить, когда, почему и при каких обстоятельствах данная система явную ошибку объявила правилом. И это может оказаться отдельной, еще более трудной задачей, которую придется или решать вручную, или создавать еще одну контрольную систему искусственного интеллекта для поиска и исправления ошибок в основной “сбоящей” системе.

Фото академик В.М. Глушков ОГАСНо и это еще не все. В уже не очень отдаленном будущем возможно создание комплексных систем искусственного интеллекта, которые могут взять на себя управление целыми отраслями экономики. Некоторое подобие разрабатывавшегося еще в 70-х годах прошлого века в Киеве под руководством академика В.М. Глушкова Общегосударственной автоматизированной системы учёта и обработки информации (ОГАС). Предполагалось, что этой системе будет переданы функции планирования и управления всей экономикой СССР. Тогда эта система по целому ряду причин, в том числе и из-за недостаточного развития компьютерной техники и технологий искусственного интеллекта, реализована не была. Однако сейчас построение подобной системы уже в принципе возможно.

И здесь возникает старая как мир проблема: кто получит наибольшую выгоду от внедрения подобной системы? Какие принципы будут заложены в ее модель? Будет ли подобная система работать в области экономики, руководствуясь принципами социальной справедливости, или будет поставлена на службу олигархам для их обогащения? Как будет осуществляться общественный контроль над действиями этой системой?

Фото Три закона робототехники по Айзеку АзимовуВсе это очень непростые вопросы. Не секрет, что любую технологию можно использовать как на пользу, так и во вред обществу. Вот поэтому мы вплотную подошли к тому обществу, в котором, образно говоря, пора принимать “Три закона робототехники” по Айзеку Азимову. Это означает широкую общественную дискуссию и выработку соответствующего морального и юридического Кодекса для работ в области искусственного интеллекта и внедрения их результатов, затрагивающих общество в целом.

Фото анализ рынка искусственного интеллекта

Близкие темы

Фото рынок свежесрезанных цветов в России

Анализ рынка цветов

Российский рынок свежесрезанных цветов. Что происходит на этом рынке в условиях тотальной пандемии?

Call Now Button

Получите 20 процентную скидку на маркетинговое исследование!

Заполните форму прямо сейчас:

– 20 %