Ученые предупредили членов Совбеза ООН о том, как их новейшие разработки могут изменить мир
Управление дроном с помощью силы мысли. Это уже не фантастика, а реальность, о которой в понедельник рассказали членам Совбеза ООН ученые. Они предупредили, что, хотя благодаря этой технологии парализованные пациенты могут снова начать ходить, потенциально ее можно использовать и в менее благородных целях, в том числе в военных.
Члены Совбеза ООН сегодня собрались, чтобы изучить вопрос влияния новейших технологий на ситуацию с безопасностью в мире. С этой целью в знаменитый зал заседаний СБ в штаб-квартире ООН в Нью-Йорке пригласили ученых с мировым именем. Нейрохирург Жоселин Блох и нейробиолог Грегуар Куртин рассказали о своем открытии, которое позволяет им устанавливать «цифровой мост между головным и спинным мозгом». Это означает новую жизнь для людей, прикованных к инвалидному креслу из-за травмы спинного мозга.
Обойти поврежденный участок
Паралич в этом случае возникает из-за прерывания сигналов, которые мозг посылает для активации мышц ног. Эти сигналы блокируются на уровне поражения. При этом область спинного мозга, которая контролирует ноги, может не быть травмирована. Ученые сообщили членам СБ, что они нашли возможность навести «цифровой мост» между головным и спинным мозгом, чтобы обойти участок, который блокирует сигнал.
Читайте также:
В ООН представили план по управлению искусственным интеллектом
«Цифровой мост состоит из первого электронного имплантата с электродами, которые записывают активность нейронов в мозге, кодирующих моторные функции ног; и второго имплантата для стимуляции области спинного мозга, которая обеспечивает движение ног. Искусственный интеллект расшифровывает мысли пациента на основе записей и программирует стимуляцию спинного мозга, чтобы парализованный человек мог снова нормально ходить», – пояснила профессор Блох. По ее словам, недавно им удалось применить тот же принцип для восстановления движений руки у пациента с парализованными конечностями.
«Мы планируем расширить сферу применения этой терапии на параличи, связанные с инсультом, и нейродегенеративные заболевания, такие как болезнь Паркинсона», – добавила она.
Потенциальные риски для общества
Ее партнер по исследованиям профессор Грегуар Куртин в своем выступлении сообщил, что уже в следующем десятилетии многие пациенты с параличом должны иметь доступ к этим методам лечения. Этот прогресс окажет существенное влияние на жизнь многих людей, в том числе молодых спортсменов, жертв ДТП, военнослужащих, получивших ранение на поле боя, и других пациентов. Это огромное благо для самих пациентов, их родных и близких, а также для всего общества и экономики.
«Конечно, эти инновации также поднимают вопросы этики и безопасности, – предупредил профессор Куртин. – Мы оснастили мозг новым цифровым каналом коммуникации с огромным потенциалом применения. Например, наши пациенты могут управлять дроном с помощью своих мыслей. Поэтому мы должны предвидеть момент, когда достижения в области интерфейсов мозг-машина позволят здоровым людям использовать эту новую форму коммуникации в нетерапевтических или даже военных целях».
Поворотный момент
Он добавил, что необходимо также подумать о вопросах безопасности, таких как последствия неожиданного отключения «цифрового моста» из-за возмущений, вызванных электромагнитными полями, присутствующими в нашей окружающей среде, или даже взлом неврологических данных, которые позволяют управлять «цифровым мостом» для ходьбы. «Хотя эти проблемы кажутся маловероятными в ближайшем будущем, опасения реальны», – подчеркнул нейробиолог.
«Мы переживаем поворотный момент. То, что еще несколько десятилетий назад было научной фантастикой, постепенно становится реальностью. Наша коллективная ответственность заключается в том, чтобы формировать эту новую эру этичным и безопасным образом, прокладывая путь к прогрессу, меняющему жизнь», – подытожил свое выступление он.
Роботы могут перестать подчиняться человеку
Директор Института ООН по исследованию проблем разоружения (ЮНИДИР) Робин Гайс напомнил, что с момента своего создания в 1980 году в качестве автономного научно-исследовательского учреждения в рамках Организации Объединенных Наций ЮНИДИР помогает государствам лучше понять значение науки и техники в области международного мира и безопасности.
Он привлек внимание участников встречи к тому, что все устоявшиеся технологии, которые сегодня формируют реальность мира и конфликтов, когда-то считались лишь перспективными разработками. Последние достижения в таких областях, как передовая робототехника, 3D-печать, биотехнологии, киберпространство или космос, теперь являются источником для беспокойства в контексте дискуссий о мире и разоружении.
Времени на раскачку нет
Гайс отметил, что во взаимосвязанном цифровом мире новые технологии и научные достижения разрабатываются, продвигаются на рынке и внедряются с беспрецедентной и постоянно растущей скоростью. «Потребовалось полвека, чтобы система электросетей, разработанная в 1880-х годах, достигла 100 миллионов домов по всему миру. В 2022 году ChatGPT добился такого же результата всего за два месяца», – сказал он.
По его словам, у политиков сегодня в распоряжении гораздо меньше времени на то, чтобы отреагировать на технические достижения и принять меры. При этом многие технологии могут применяться не только в тех областях, для которых они предназначались.
Новая эра в развитии ИИ
Директор ЮНИДИР предупредил, что в течение следующих 5-10 лет квантовые технологии окажут значительное влияние на мир и безопасность. В частности, традиционные методы шифрования могут безнадежно устареть, а квантовые датчики позволят обнаруживать объекты под землей или под водой. Квантовые вычисления, по словам докладчика, откроют новую эру для искусственного интеллекта, позволяя вычислять модели, которые в настоящее время не могут быть запущены даже на самых мощных компьютерах.
В течение следующего десятилетия и далее также ожидаются значительные успехи в области общего искусственного интеллекта, или ОИИ. В отличие от современных систем искусственного интеллекта, которые преуспевают в выполнении конкретных задач, но ограничены узкими приложениями, ОИИ сможет понимать, учиться и применять знания динамически в широком диапазоне контекстов, что позволит ему работать со степенью гибкости, более близкой к человеческому интеллекту. «Этот глубокий сдвиг будет иметь далеко идущие последствия для всего общества», – предупредил Гайс, выделив два особо опасных фактора.
Во-первых, как только ОИИ достигнет уровня интеллекта, превышающего человеческие возможности, люди могут потерять способность управлять им или ограничивать его действия. Многие эксперты видят в этом конкретный, вероятный риск, заслуживающий серьезного внимания, особенно учитывая экзистенциальный характер угрозы.
Во-вторых, может быть сложно обеспечить, чтобы цели, мотивация и критерии принятия решений ОИИ по-прежнему соответствовали человеческим ценностями.
Международное сотрудничество
Завершая свое выступление, директор Института ООН подчеркнул, что для смягчения этих и других последствий необходимо на как можно более раннем этапе анализировать развитие новейших технологий, чтобы оценивать риски и предотвращать наиболее опасные сценарии.
«В Пакте о будущем справедливо подчеркивается необходимость основанных на фактических данных знаний в качестве основы для разработки политики», – добавил он.
