Google создает команду по этике, чтобы контролировать будущих роботов-повелителей

Компания Google создала отдел этики, который попытается убедиться, что суперумные компьютеры не уничтожат человечество.

Искусственный интеллект (ИИ) обладает способностью значительно улучшить нашу жизнь, но может привести к непостижимым изменениям в человеческой цивилизации, если его не контролировать. На Google было оказано большое давление, чтобы создать этот совет по этике, который будет работать в DeepMind – компании, которую недавно здесь купили и которой поручены исследования искусственного интеллекта.

Новое подразделение, получившее название DeepMind Ethics and Society, должно будет убедиться, что ученые и разработчики думают об обществе, создавая суперумные компьютерные системы.

Ранее DeepMind отвечала за создание программы, которая побеждала гроссмейстеров в чрезвычайно сложной настольной игре Go, и она получила миллионы инвестиций от высокотехнологичных тяжеловесов. Но критики опасаются, что алгоритмы, которые они создают, могут поставить под угрозу человечество.

Компьютеры уже начинают проявлять расовую, гендерную и сексуальную предвзятость, поскольку эти системы часто учатся у людей. Это может привести к пагубным стереотипам, отменяющим годы напряженной работы в направлении социальной справедливости. Тогда появляется и риск физического вреда.

Плохо запрограммированные системы в больницах, например, могут подвергать пациентов риску или заблокировать тяжелую технику на фабриках. Это также может поставить под угрозу конфиденциальность пользователя, поскольку огромные системы заполнены информацией и работают как системы наблюдения.

DeepMind была основана в Великобритании в 2010 году. Но в 2014 году компания Google приобрела ее за неназванную, но, вероятно, ошеломляющую сумму и, как сообщалось, дала обещание создателям DeepMind, что будет создан совет по этике.