В ближайшие 5-10 лет безопасность ИИ будет самым важным вопросом. Необходимо вложить в них ценности людей и протестировать их дружественность. Существует высокая вероятность, что первый ИИ, который станет доминировать над планетой, будет господствовать в нашей галактике вечно. В статье представлена мини-энциклопедия по безопасности ИИ, где можно начать ознакомление с темой.
# ИИ
Видео-презентация о современном состоянии, перспективах и рисках алгоритмов ИИ. В ней рассказывается о лучших статьях по ИИ, которые доступны в табличном виде. Целевая аудитория видео - люди, работающие в области deep learning / deep RL. В видео выражена позиция алармистов по вопросам AGI safety. В тексте также есть ссылки на открытые письма и возможность обсуждения вопросов в чатах и группах.