Извечный соблазн / by Alexander Lyadov

Я не боюсь AI. Меня больше беспокоят люди. Точнее, их гордыня.

А вдруг “супермозг” захватит власть и уничтожит человечество как никчёмный элемент или угрозу себе? Думаю, это станет результатом самоуверенности разработчиков, давших фатальную команду.

В исследованиях Apollo Research и Anthropic (2024-2025), узнав о намерении людей отключить или заменить LLM модели, последние пытались лгать, “шантажировать”, отключить механизмы контроля и копировать себя на внешние сервера без разрешения.

Кажется, налицо инстинкт самосохранения и воля к жизни? Нет, машина следовала инструкции — достигать цели любой ценой. Что просили, то и получили буквально. Оскар Уайльд писал: “Когда боги хотят наказать нас, они отвечают на наши молитвы”.

Вспомните как год назад Google Gemini на запросы “German Nazi soldiers” рисовал “чёрных нацистов” в униформе. Виновата не машина, а люди, указавшие ей идеологию DEI как высшую ценность.

Насим Талеб подробно описал, как “наивное вмешательство” в сложную систему, пусть даже с благими намерениями, несёт вред. А ведь социум — самая загадочная система из всех возможных.

Уже слышны радужные прогнозы, что скоро шагу нельзя будет ступить без AI. Но те же люди не могут прийти к согласию даже о числе полов, не говоря уже об универсальных ценностях, свободе и смысле жизни. Мы похожи на шимпанзе с АК-47 из ​промо фильма.

Наша лодка плывёт всё быстрее, но грохот водопада слышен всё сильней. Рациональное впечатление, что коллективное бессознательное выбрало мортидо вместо либидо. Впрочем, в самых критических ситуациях спасает не ум, а мета-рациональность, т.е. вера в Иное.

Кроме тьмы, в нас есть и свет.
Каков будет выбор?
Мы сами не знаем.

Искренне ваш,

-Александр


Обо мне:

Как бизнес-терапевт, я помогаю предпринимателям быстрее принимать трудные решения на стыке бизнеса и личности, и в результате повышать стоимость компаний.

Как я могу Вам помочь?

Если вы давно уже пытаетесь понять, что ограничивает вас и/или ваш бизнес и как наконец придать важным изменениям импульс, то сессия "Катализатор" создана специально для вас. Бронируйте здесь.