Центр по изучению экзистенциальных рисков (CSER) подвергнет анализу опасности, которыми чреваты развитие биотехнологий, создание искусственной жизни, нанотехнологии и глобальное потепление.
Ученые заявили, что было бы опасным также сбрасывать со счетов риск восстания роботов.
Тема восстания разумных машин уже давно является одной из центральных в научной фантастике.
Такие фильма как "Матрица" или "Терминатор" изображают закабаление человечества роботами и системами искусственного интеллекта.
Подобная система Skynet, которая фигурирует в фильмах из серии "Терминатор", была разработана американскими военными.
Однако несмотря на кажущуюся фантастичность таких предположений, исследователи из Кембриджа считают, что они заслуживают серьезного внимания.
"Серьезность такой угрозы трудно оценить, но это само по себе должно вызывать тревогу, учитывая, что именно поставлено на кон", – пишут исследователи на сайте центра.
Проект CSER совместно финансируется профессором философии Хью Прайсом, профессором астрофизики и космологии Мартином Рисом и одним из основателей компании Skype Яном Таллинном.
"Представляется допустимым предположение, что в какой-то момент в этом или следующем столетии разум вырвется из оков биологии, – заявил профессор Прайс. – Мы пытаемся сделать вопрос об этом приемлемым для обсуждения в среде респектабельных ученых".
По его мнению, когда роботы и компьютеры обгонят по уровню интеллекта человека, мы можем оказаться во власти машин, интересы которых находятся вне сферы интересов человечества.
Центр намерен приступить к работе в будущем году.
Главные темы