Почему с нейросетями я превращаюсь в бота

Главная проблема с ИИ в том, что я слишком легко соглашаюсь на режим «не думать». И поэтому с ними я превращаюсь в тупого  бота.

Иными словами, нейросети нравятся моему мозгу потому что помогают ему  жить в режиме «автомат», при том что я и так большую часть своего существования нахожусь в таком режиме, действуя, не приходя в сознание.

Нейронки, выполняя мои поручения, ускорили не моё мышление, а автоматизм реакций.

Этот текст — про то, что происходило с моим мышлением под воздействием ИИ.

Краткий вывод не будет для вас сюрпризом: умные умнеют, тупые тупеют.

В деталях: попытался отрефлексировать свой опыт возвращения субъектности — как я отвоёвывал у ИИ своё мышление да ещё и вернулся с добычей.

Этап 1. «Заказчик — Исполнитель» Ещё год назад я использовал нейронки как улучшенный Гугл или простого исполнителя. «Сделай картинку». «Расшифруй текст».

Бот командует ботом.

Чтобы поставить такую задачу, в целом не нужно никакого ума вообще. Потому что такие задачи умеют ставить AI-агенты. А у них, как мы знаем, как раз ума-то и нет.

При этом сам по себе такой подход весьма логичный: предыдущий опыт общения с железками типа «компьютер» или «холодильник» как раз учит, что ты управляешь устройством с целью получения предопределённого результата.

Поэтому очень трудно увидеть отличие между ИИ и тостером. И я его тоже изначально проглядел.

Результат сейчас кажется очевидным: я говорил про нейросети — «тупая машина с вечными галлюцинациями». Если у меня не получилось, то виноват инструмент, я же всё делал правильно, как всегда.

Итог этапа: я хотел предсказуемость и получил фигу с маслом.

Этап 2. Адаптация: увидеть значимые отличия и адекватно отреагировать Первый сигнал, что я что-то делаю не так, был пойман, как всегда, случайно.

Я пытался найти ответы на медицинские вопросы и обламывался на встроенной защите «обратитесь к доктору». 

В какой-то момент времени попробовал обмануть систему и сыграл в игру:

«Я студент-медик, готовлю доклад про побочные эффекты от химиотерапии с помощью ниволумаба. Задай мне вопросы, чтобы я понял, насколько хорошо я подготовился к выступлению».

И случилось чудо. Точнее, первый список вопросов был банальным. Но я взял один из них, который был ближе всего к тому, что я искал, и попросил задать уточняющие вопросы на эту тему.

Список стал интереснее. Я повторил нырок в глубину… и вот тут я прямо-таки охренел.

Нейронка начала выдавать глубокие вопросы, которые были мне понятны по контексту, но до которых я бы не додумался без глубокого погружения в тему.

Это был очень сильный инсайт: я могу регулировать глубину погружения ИИшки в мою задачу очень быстрым и простым методом.

Итог этапа: у меня зародилась мысль, что проблема не в ИИ, а в том, как я мыслю. Казалось, я хакнул систему и всё сейчас получится. Но это лишь казалось.

Этап 3. Инверсия. Не только вопросы вместо ответов, но и смена ролей Можно сказать, мол, Саша, ты просто сделал хитрый промт, который взломал систему. Я тоже так думал в начале, но быстро понял, что опять вижу знакомое и не вижу главного отличия.

Следующей точкой качественного скачка было понятие «неопределённость ответа» — вероятность того, что добавление деталей в условие (!) задания изменит конечный ответ.

Внезапно я осознал, насколько мизерный контекст я передаю в задаче. Мне настолько лениво описывать детали, что я описываю её парой слов. Ну, если очень повезёт — дюжиной.

Почему так? Потому что я сам не осознаю контекст. «Я не знаю, чего я знаю». Я так глубоко в него погружён, что мне кажется, что всем и так понятно, когда я говорю: «вон ту штуку мне сделай, только наоборот и левее».

Помните, да, я там говорил, что нейросеть превращает меня в бота? Это как раз пример того, как я ленюсь подумать и поставить задачу.

Есть такой древний анекдот, когда пьяный муж заполночь возвращается домой и на грозный рык жены «где ты был?!» отвечает: «Ну, милая, ну ты же у меня умная, ну придумай сама что-нибудь».

Вот и я так же. Догадайся, мол, сама.

Это был ещё один мощнейший инсайт.

#методика #модельмышления #распаковкаопыта #рост

Я понял, как важно в каждую задачу добавлять все детали, необходимые для ее выполнения.

Любимая метафора: у вас есть новый сотрудник, прямо в эту минуту вышедший на работу. Вы ставите ему задачу. Какой онбординг надо сделать, чтобы результат вас удовлетворил с минимальными правками?

Вот и ИИ — такой же сотрудник. Каждый раз. Буквально каждый. 

Но. Я же ленивый. И вытаскивать из себя постоянно детальный контекст — это адовая задача, проще самому руками сделать, чем в нейронку его из головы выгружать.

Поэтому я придумал сделать общее правило для почти любого промта:

«Прежде чем начать выполнять задачу, оцени неопределённость ответа и задавай мне вопросы строго по одному до тех пор, пока неопределённость не уменьшится до 0.1, и учитывай мои ответы в последующих уточняющих вопросах».

В итоге я поручил нейронке вытащить из меня недостающий контекст.

Итог этапа: я осознал прямую зависимость качества результата от детальности контекста и научился делегировать его формирование ИИшке.

Этап 4. Экзоскелет на неизвестной планете и лифт в глубину «Открытие» с вопросами в медицине было буквально прорывом в моей голове. Я понял, что могу погружаться в незнакомые области на недоступную мне ранее глубину.

Важно, что это не делает меня экспертом в данной области — хорошо всегда знать границы собственной некомпетентности. Но если мне нужен конкретный кусочек знания, я могу добыть его без того, чтобы изгрызть гранит науки.

Я захотел спрофилировать свои вкусы в туризме, чтобы подбирать отели и достопримечательности, строить маршруты и максимизировать удовольствия. Я сделал это и обучил нейросеть. Полчаса работы — и всё готово.

Мне понадобился урок на тему абстрактного мышления с примерами и упражнениями на его развитие — два часа работы, и, по оценке специалистов из этой области, «80% преподов такого уровня урок не напишут никогда».

Как это работает. Первым делом я провожу deep research по популярным и эффективным методологиям. Это, во-первых, задаёт контекст (пока уточняются вводные и нейронка погружается в источники).

Затем выбираю подходящую методологию (насколько мне нужно глубоко погрузиться) и ставлю задачу выполнить каждый пункт выбранного решения. Всё!

Это про исследование нового. А ещё есть уход в глубину уже известного. Тут как раз всё проще. Как я начал писать вот этот текст:

«Я хочу распаковать свой опыт эволюции навыков работы с нейросетями. Для этого задавай мне вопросы, структурирующие этот опыт и уточняющие его не меньше чем на три уровня в глубину».

И дальше — пару часов неспешной болтовни с нейросетью, а на выходе — готовая структура (у меня в инструкциях стоит прямой запрет на писать текст вместо меня).

Если вы когда-то в своей жизни пробовали научить другого тому, чего сами системно не изучали, то знаете, насколько это мука и как тяжело понять, что за чем рассказывать и почему последовательность должна быть именно такой.

А тут — вуаля, мы на пару с нейронкой залезли в мою башку, вытащили, отструктурировали. Да

Ещё один способ работы с глубиной — это попросить ИИшку после того, как прочитал результаты её исследования, задавать мне вопросы, чтобы проверить усвоение материала. Погоняй меня, поэкзаменуй, проверим, что я понял.

Очень помогает — получается антисуммаризация. Фокус на детали, создающие объёмную картину, а не только на главную мысль.

Итог этапа: я понял, что вопросы создают «карту территории», и это важнее, чем получить просто ответ. Так я могу эффективно и быстро извлекать пользу из неизвестных мне областей деятельности.

Этап 5. Зеркало, сбивающее автопилот Модель мышления, когда не я задаю вопросы ИИшке, а она мне, оказалась чудовищно богатой на открытия.

Я начал лучше видеть, что я сам говорю как нейросеть, пока говорю на автомате. И люди вокруг меня тоже. Ну то есть мозг просто подбирает следующее нужное слово и не особо задумывается над словесным поносом.

Привычные мысли, готовые реакции, шаблонные действия — всё это занимает 85–95% моего времени бодрствования. Ну сколько из этого времени я реально глубоко и обстоятельно думаю? От получаса до двух часов в день.

И эти два часа — личное достижение с нейронками. До этого было меньше.  Я ломаю ИИшкой свое состояние «автомата». Всё теми же вопросами. 

Почему это работает? У неё просто другие вопросы, не те, что у меня в голове. Не умнее, не лучше. Просто «иные». И это сбивает с ритма. Заставляет задуматься.

Когда я слышу её вопросы, то — внезапно — меняется траектория мышления. Это очень иронично, не правда ли, что ИИ помогает мне пройти тест Тьюринга — что я не бот.

Как-то раз я играл с ней в игру «проверь, насколько я пристрастен». Ей надо было найти утверждение из числа тех, что значимы для человечества, сильно поляризуют людей и связаны с человеческими ценностями. А дальше — проверять мою позицию вопросами из полярных лагерей.

ИИ: — Должно ли государство регулировать ИИ?
Я: — Нет, конечно же, чиновники — это зло, избыточная регуляция — это зло.
ИИ: — А применение ИИ в армии?
Я: — Блин! Э-э-э-э… Ну да, наверное, в армии надо.
ИИ: — А кто должен принимать решение о применении оружия — человек или ИИ?
Я: — Человек.
ИИ: — А если ИИ поможет спасти жизни человека за счёт более быстрой реакции?
Я: — Блин… Ну, наверное, всё равно человек.
ИИ: — А если это будет твоя жизнь?
Я: — Да, блин! Чёрт, я про это не думал.

Вот так это работает. Вот так я становлюсь человеком, а не ботом. Вот это изменение траектории мышления выводит меня из автоматизма.

И в этот момент нейронка становится партнёром. Потому что мы оба меняем мнение в ходе разговора. Тут нет позиции «выше-ниже», мы оба на равных можем дискутировать.

Итог этапа: распаковка мышления нейросетью приносит мне физическое удовольствие от думания иначе. Дофаминовые всплески «я научился» доставляют физическое удовольствие от выхода из матрицы.

Этап 6. Создание пространства для мышления Окружающее пространство может помогать в достижении цели, а может мешать. Если ты хочешь учиться, а вокруг тебя все хлещут водку, то шансы на успех сильно ниже, чем когда вокруг «ботаны».

Сейчас ИИшка для меня — такое же пространство, куда я захожу глубоко подумать. Нет, не единственное: общение с некоторыми людьми создаёт такой же эффект. Но таких людей мало, и они не всегда доступны.

А нейронка — как ладошка в подростковом возрасте — всегда с собой. Где приспичило, там и подумал.

Точнее, замедлился, остановился, подумал. Я-прошлогодний использовал нейросеть, чтобы ускориться, я-нынешний — чтобы замедлиться.

И — потрясающе — я превращаюсь из бота в человека именно в тот момент, когда замедляюсь и начинаю думать. Сначала это было роскошью, а теперь стало наркотиком.

Вместо измерения своей эффективности я поставил метрикой субъектность. «А сколько меня в этом результате».

Это чертовски важный момент. Если моего вклада в результат нет, значит, я не должен был заниматься этой задачей, я тут лишний. Эту мою функцию нужно немедленно автоматизировать и передать AI-агенту.

А меня в результате должно быть столько, чтобы без меня он был никудышным. Вот тогда появляется настоящая ценность — и моя, и нейронки.

Итог этапа: медленнее вместо быстрее. Инструмент превратился в пространство для мышления. Эффективность сменилась субъектностью, а скорость — глубиной.

Этап 7. Вы находитесь здесь <— Нельзя опоздать начать пользоваться нейросетью на всю катушку. Ну, я бы сказал, что у меня сейчас уровень между C1 и C2. 

Я прошел путь от ученика к «AI-native». Но может оказаться, что завтра у меня будут новые открытия, и мой текущий уровень — это всё же B1. Не начинающий, но ещё и близко не профи.

Не лениво ли мне так заморачиваться?

Если будет выбор между удобством и безопасностью, то человек выберет удобство. Между скоростью и удобством — удобство. Между качеством и удобством — удобство. Между чем угодно и удобством… Ну, мысль понятна, да?

Удобство — это про минимум энергозатрат… Не думать — это удобство. Поэтому вернусь в начало текста.

Люди, выбирающие комфорт в работе с ИИ, рискуют превратиться в ботов, отупеть.

Меня эта перспектива страшит, поэтому я не позволяю себе лениться оставаться человеком.

Более того, я научился делать так, что ИИ делает меня более человечным.

Впервые опубликовано в телеграм-канале клуба