Бывшие сотрудники OpenAI и Google DeepMind привлекли внимание к угрозам ИИ
Лента новостей
Они подписали открытое письмо с осуждением технологических гигантов, которые не хотят регулировать отрасль, и перечислили риски, исходящие от бесконтрольного развития искусственного интеллекта. По их мнению, угроза для человечества может быть летальной
Бывшие сотрудники OpenAI и Google DeepMind заявили об угрозах, которые несет искусственный интеллект. Они подписали открытое письмо с осуждением технологических гигантов, обвинив их в чрезмерной алчности и нежелании регулировать отрасль.
Также они перечислили риски, исходящие от бесконтрольного развития искусственного интеллекта. Среди них — манипуляции, дезинформация и отсутствие надлежащего надзора, которое в дальнейшем может привести к полной потере контроля над технологией. Что, по мнению экс-сотрудников, может потенциально привести человечество к вымиранию.
Также они подчеркивают, что отрасль слишком закрытая и не приемлет свободы слова, сообщает издание Time:
«По словам бывших работников компаний, они располагают информацией о рисках, которые несет искусственный интеллект, но многое остается в секрете и, по сути, за кулисами отрасли. Дело в том, что сотрудники подписывают соглашения о конфиденциальности, которые не дают им свободно высказываться зачастую даже после увольнения. Но, поскольку отрасль очень закрытая, больше привлечь к ответственности перед общественностью эти компании некому. По словам адвокатов, если не изменить существующую систему, то мы потеряем единственную возможность узнавать о том, что действительно происходит с искусственным интеллектом. Потому авторы письма требуют, чтобы техногиганты прекратили принуждать сотрудников подписывать соглашения, прикрываясь «рисками для компании». Также они просят разрешить открытую критику и дать возможность анонимно сообщать о своих опасениях членам правления компаний и в регулирующие органы».
В России единого документа, который бы полноценно регулировал сферу искусственного интеллекта, нет. Есть лишь несколько отдельных рекомендаций и норм.
При этом за рубежом сейчас активно пытаются наладить регулирование отрасли. Так, в этом году в ЕС приняли первый в своем роде закон об искусственном интеллекте. Также ранее в США вышло законодательное требование к компаниям раскрывать министерству торговли свои планы в отношении разработки искусственного интеллекта. Но, несмотря на это, прилагаемые государствами усилия отстают от темпов развития технологии.