Вы когда-нибудь задумывались, почему ваш телефон показывает вам именно то, что показывает?
Вы открываете приложение, и лента подкидывает вам видео про выпечку хлеба. Вы смотрите его пять секунд. Завтра вся ваша лента забита рецептами. Вы читаете пост про политику — и внезапно начинаете видеть только плохие новости. Банк отказывает вам в кредите без объяснения причин. Навигатор уводит вас в глухую пробку, хотя вы знаете дорогу лучше.
В такие моменты мы часто говорим: «Ну, это алгоритмы». Алгоритм инстаграма спрятал мой пост. Алгоритм ютуба подсунул мне дичь. Мы произносим это слово так, будто говорим о каком-то всесильном божестве или цифровой магии, которая управляет нашими жизнями.
Но в алгоритме нет никакой магии. В самом базовом, первозданном смысле алгоритм — это просто рецепт. Инструкция. «Возьми два яйца, добавь стакан муки, перемешай, поставь в духовку». Если инструкция чёткая, пошаговая и не допускает двойных толкований — это алгоритм.
Меня зовут Иннокентий Солнцев, это подкаст «До нас дошло». И сегодня мы поговорим о том, как человечество придумало инструкции. Как имя древнего персидского учёного превратилось в главное слово цифровой эпохи. Как кибернетика подарила алгоритмам «глаза и уши». И главное — как получилось так, что сегодня машины пишут инструкции сами для себя, а мы, их создатели, больше не понимаем, как они работают. И почему это может нас погубить.
Слово «алгоритм» звучит очень технологично. Кажется, оно должно было появиться где-то в середине двадцатого века, в лабораториях IBM или на секретных базах во время Второй мировой.
Но чтобы найти его истоки, нам нужно отмотать время на 1200 лет назад и переместиться в Багдад.
Девятый век нашей эры. Багдад — интеллектуальная столица мира. Там находится Дом Мудрости, гигантская библиотека и исследовательский центр, куда стекаются учёные со всего света. И среди них работает математик и астроном по имени Мухаммед ибн Муса аль-Хорезми.
Перед ним стояла сугубо практическая, житейская проблема. Исламское право предполагает невероятно сложную систему наследования. Доли распределяются в зависимости от пола, степени родства и наличия других наследников. Если купец умирал, оставляя трёх жён, пятерых сыновей от разных браков, дочерей, долги и кусок земли, возникала математическая катастрофа. Судьям приходилось решать сложные системы линейных и квадратных уравнений, даже не зная, что это такое. Они ломали головы неделями, что приводило к бесконечным скандалам.
Аль-Хорезми решил эту проблему. Он написал книгу с длинным названием «Краткая книга о восполнении и противопоставлении» - с небольшой натяжкой, это был юридическо-экономический справочник. Он не использовал привычные нам иксы и игреки — всё было описано словами. Но он разработал систему строгих, пошаговых правил для решения шести базовых типов квадратных и линейных уравнений. Он объяснил, как сводить любую сложную задачу к простому шаблону. По сути, он написал программу для людей. Чиновник просто выполнял инструкцию шаг за шагом и получал ответ. И этот процесс был детерминированным: воспроизводимым и проверяемым. При одних и тех же исходных данных любой судья всегда приходил к одному и тому же, математически точному решению. Без эмоций и без споров.
Два главных приема в его книге назывались так же, как и сама книга. Операция переноса отрицательного члена из одной части уравнения в другую называлась «аль-джебр» (восполнение). А приведение подобных членов — «аль-мукабала» (противопоставление). Европейцам второе слово показалось слишком сложным, а вот первое прижилось. От арабского «аль-джебр» родилась современная Алгебра.
В двенадцатом веке книгу аль-Хорезми перевели на латынь. Переводчик начал текст словами: «Dixit Algorizmi» — «Так сказал аль-Хорезми». Имя учёного, записанное на латыни, стало нарицательным. Европейцы начали называть саму систему пошагового решения задач словом «алгоризм», которое позже исказилось до привычного нам «алгоритма».
Так что алгоритм изначально был придуман не для машин. Он был инструкцией для людей, чтобы исключить человеческий фактор и хаос из решения квадратных уравнений при разделе имущества.
Тысячу лет после аль-Хорезми ничего принципиально не менялось. Алгоритмы оставались текстом на бумаге. Инструкциями, которые выполняли люди-вычислители.
Человеком, который изменил эти правила игры, стала Ада Лавлейс — дочь поэта лорда Байрона и гениальный математик девятнадцатого века. В 1843 году она изучала чертежи Аналитической машины Чарльза Бэббиджа — огромного механического компьютера на паровой тяге, который Бэббидж так и не смог построить.
Все современники видели в машине Бэббиджа просто гигантский калькулятор. И только Ада поняла её истинный потенциал. Она написала для этой машины сложнейший алгоритм вычисления чисел Бернулли. Да, это был код для несуществующего железа. Но к этому коду она оставила исторический комментарий.
Она написала, что если машина может манипулировать числами по строгим правилам, то она может манипулировать чем угодно, если это «что-то» можно выразить числами. Если мы научимся кодировать музыкой цифры — машина сможет писать симфонии. Если мы закодируем буквы — машина сможет работать с текстом.
Это был колоссальный концептуальный прыжок. Ада Лавлейс первой осознала, что алгоритм — это не просто калькулятор. Это универсальный инструмент обработки любой информации.
Но лишь спустя сто лет, в середине двадцатого века, с появлением первых электронных компьютеров, её видение стало реальностью. По своей сути ранние компьютерные алгоритмы оставались такими же слепыми и жесткими, как инструкции средневекового юриста: «Сделай шаг 1, затем сделай шаг 2, затем шаг 3». Это отлично работало для подсчета налогов или расшифровки кодов.
Это хорошо работает в заранее известных условиях, но что делать, если мир вокруг изменился, пока машина выполняла Шаг 2? Слепой алгоритм всё равно сделает Шаг 3 и потерпит неудачу.
Во время Второй мировой войны американский математик Норберт Винер столкнулся именно с такой задачей. Ему нужно было разработать систему наведения для зенитных орудий. Самолет летит быстро, пилот маневрирует, уклоняясь от огня. Снаряд летит до цели несколько секунд. Если зенитка просто выстрелит туда, где самолет находится сейчас — она промахнется. Орудие должно предсказывать будущее положение цели.
Винер понял: чтобы попадать, алгоритм больше не может быть слепым скриптом. Машина должна выстрелить, оценить, насколько она промахнулась, и скорректировать следующий выстрел с учетом этой ошибки. И так постоянно, в режиме реального времени. Так родилась концепция обратной связи (feedback loop). Алгоритмы перестали быть глухими инструкциями. Они обзавелись сенсорами, радарами и датчиками.
Машина начала непрерывно обмениваться информацией со средой. Действие -> Оценка результата -> Корректировка -> Новое действие. Сегодня нам кажется это очевидным — так работает термостат в обогревателе, автопилот в самолете и круиз-контроль в машине. Но для сороковых годов это был фундаментальный сдвиг. Граница между неживой инструкцией и живым поведением начала стираться.
В 1948 году Винер опубликовал книгу, в которой описал эти принципы управления. Он искал слово, которое объединило бы машины и живые организмы под одной теорией. И он нашел его в древнегреческом языке. Слово «кюбернетес» означало рулевого, кормчего на корабле — человека, который постоянно корректирует курс судна, глядя на волны и ветер. От этого слова Норберт Винер образовал термин «Кибернетика».
Алгоритмы перестали быть просто рецептами пирога. Они научились смотреть на мир, подстраиваться под него и самостоятельно менять свои следующие шаги. Человечество делегировало машинам не просто вычисления, а принятие решений в реальном времени.
И это был первый шаг к потере контроля.
Идеи кибернетики произвели эффект взорвавшейся бомбы. Если машины могут корректировать свой курс благодаря обратной связи, почему бы не применить этот алгоритм к чему-то большему? К заводу? К отрасли? Ко всей экономике страны?
Особенно ярко эта идея проявилась в Советском Союзе. Поначалу, в сталинские годы, кибернетику клеймили как «реакционную лженауку» и «продажную девку империализма». Считалось, что сравнивать человека с машиной унизительно, а идея управления обществом с помощью математики противоречит марксизму.
Но в 1950-х, когда стало ясно, что без кибернетики невозможно ни запустить межконтинентальную ракету в цель, ни создать ядерный щит, риторика резко изменилась. Кибернетика стала наукой номер один. Апогеем этой одержимости стал проект ОГАС академика Виктора Глушкова в 1960-х годах - у нас был недавно выпуск про эту систему. Идея была грандиозной: объединить тысячи вычислительных центров по всей стране в единую сеть. Данные о каждом произведенном станке, о каждом килограмме хлеба и каждом купленном ботинке должны были стекаться в единый суперкомпьютер. А тот, используя гигантский кибернетический алгоритм, должен был в реальном времени корректировать план производства для всего СССР. Без бюрократии, без дефицита, чистая математика.
Проект так и не был реализован — он потонул в ведомственных интригах чиновников, которые испугались, что машина лишит их власти. Но он высветил важную проблему: каким бы сложным ни был алгоритм, если его пишет человек, он не справится с хаосом реального мира.
Классическое программирование работает по заветам Аль-Хорезми: программист пишет строгий рецепт. «Если товара А не хватает на складе Б, увеличить производство на 10%». Это детерминированные системы. Если что-то сломалось, можно открыть код и найти ошибку.
Но когда количество параметров измеряется миллионами, человеческий мозг просто не в состоянии написать все инструкции. Вы не можете запрограммировать экономику. И вы точно так же не можете запрограммировать алгоритм, который, например, отличит на фотографии лицо кота от лица собаки. Там слишком много пикселей, теней и ракурсов. Никаких инструкций «Если ухо острое, а нос мокрый, то это кот» не хватит.
И тогда программисты поняли: нужно перестать писать инструкции. Нужно, чтобы машины начали писать их сами.
Идею о том, что машины должны учиться сами, высказал ещё Алан Тьюринг. В 1950 году, в своей знаменитой статье «Вычислительные машины и разум», он задал вопрос: зачем пытаться написать идеальную программу, имитирующую разум взрослого человека? Это слишком сложно. Давайте напишем программу, имитирующую разум ребенка, а потом — обучим её.

Спустя полвека, когда появились быстрые процессоры и гигантские объемы данных, эта идея Тьюринга превратилась в то, что мы сегодня называем Машинным обучением.
Программисты больше не пишут пошаговый рецепт для распознавания кота. Вместо этого они создают нейросеть — сложную математическую программу, которая умеет искать закономерности.
Изначально эта программа не знает ничего. Программист загружает в неё миллион фотографий котов и миллион фотографий собак и просто говорит: «Вот это коты, а вот это собаки. Разберись сама, как отличать одних от других». И нейросеть начинает учиться. Она миллионы раз перестраивает свои внутренние формулы, пока не начнёт угадывать безошибочно.
Звучит круто, правда? Машина сама создала идеальный алгоритм. Но в этот момент захлопнулась ловушка, в которой мы живём сегодня.
Нейросеть научилась блестяще отличать кота от собаки. Но если вы спросите её создателя: «По каким именно признакам она это поняла? На что она смотрит?», он ответит: «Я понятия не имею».
Логика больше не написана текстом на экране. У классической программы есть, допустим, тысяча строк кода — программист может прочитать их сверху вниз, как книгу, и найти конкретное правило. У современной нейросети строчек с правилами нет. У неё есть сотни миллиардов числовых параметров — так называемых «весов». И любое решение принимается не по одной понятной формуле, а в результате одновременного математического взаимодействия всей этой гигантской паутины цифр. Попытаться прочесть эту логику глазами физически невозможно — это всё равно что пытаться прочитать и осмыслить всю Википедию разом.
Мы видим, что зашло на входе, и видим правильный ответ на выходе. Но то, что происходит посередине — это абсолютно непроницаемый чёрный ящик. Настоящий алгоритм скрыт от нас навсегда. Даже его создатели не могут проследить цепочку решений.

Проблема в том, что сегодня точно такие же чёрные ящики управляют человеческими судьбами. И это не сценарии для антиутопий, это реальные скандалы последних лет.
В 2018 году компания Amazon со скандалом свернула свой искусственный интеллект для отбора резюме. Оказалось, что алгоритм систематически отбраковывал кандидатов-женщин. В 2019 году разразился скандал вокруг кредитной карты Apple Card: алгоритм выдавал женам кредитные лимиты в десятки раз меньше, чем их мужьям, при абсолютно одинаковых семейных доходах. А в США система COMPAS, которая помогала судьям оценивать риск рецидива у преступников, годами проявляла систематическую расовую предвзятость, оценивая темнокожих подсудимых как более опасных.
И мы не знаем, по какой именно математической цепочке они принимали эти решения.
Ни один из этих алгоритмов не писал злодей-расист или женоненавистник. Всё гораздо прозаичнее: алгоритм обучается на исторических данных, а значит — впитывает все человеческие предрассудки. Если в IT-компанию исторически брали в основном мужчин, нейросеть сделает холодный математический вывод: «Ага, слово «женский» в резюме — это признак плохого кандидата, снижаем балл». Она не сексист, она просто нашла закономерность в данных, которые мы сами ей скормили.
И поскольку алгоритм скрыт в чёрном ящике, вы не можете его переубедить, поспорить с ним или подать апелляцию. Вы просто получаете отказ. Машина, которой мы делегировали объективность, оказалась кривым зеркалом, которое отражает наши собственные недостатки, но делает это с авторитетом непогрешимой математики.
Но даже предвзятость при выдаче кредита или приеме на работу — это не самое страшное. Настоящая катастрофа начинается, когда чёрному ящику поручают управлять вашим вниманием.
И пока этот чёрный ящик просто отличает котов от собак, это забавно. Проблема в том, что сегодня точно такие же математические загадки управляют самым ценным ресурсом на планете — нашим вниманием. Речь об алгоритмических лентах в социальных сетях.
Когда разработчики создавали эти ленты, они задали нейросети одну очень простую цель. Идеальный алгоритм с точки зрения корпорации звучит так: *«Сделай всё возможное, чтобы пользователь как можно дольше не закрывал приложение»*. Больше времени в приложении — больше показанной рекламы, больше денег.
Алгоритм начал экспериментировать на миллиардах людей, как на лабораторных мышах. Он подсовывал им разный контент и смотрел, на что они кликают, где задерживают взгляд, что комментируют.

И этот холодный чёрный ящик сделал математически безупречный вывод: у каждого человека есть своя уязвимость, за которую его можно держать.

Если алгоритм видит, что вы не можете оторваться от смешных котиков или «залипательных» видео, где режут мыло или моют ковры — он завалит вас тысячами таких роликов. Он введет вас в приятный, бесконечный цифровой транс. Вы зашли на минутку, очнулись через два часа — цель алгоритма выполнена.
Но экспериментируя дальше, алгоритм нащупал ещё более мощное и универсальное топливо. Оказалось, что ничто так не приковывает внимание огромных масс людей, как гнев, возмущение и тревога.
Если показать человеку пост о том, что его политические оппоненты — идиоты, или подсунуть теорию заговора, человек вспыхнет. Он начнёт писать гневные комментарии, спорить с незнакомцами и будет раз за разом возвращаться в приложение, чтобы проверить ответы.
И алгоритм — без всякого злого умысла, не имея политических взглядов, просто выполняя приказ максимизировать вовлечённость — начал разделять людей. Одних он погрузил в бесконечный поток пушистых зверей, а другим начал подсовывать всё более радикальный, поляризующий и пугающий контент. Стоит вам на секунду задержать взгляд на агрессивном видео, система тут же предложит вам ещё десять таких же, потому что математика показывает: это работает!
Так рекомендательные ленты начали убивать объективную картину мира. Они запирают нас в информационных пузырях. Два человека, живущие на одной лестничной клетке, видят совершенно разную реальность в своих телефонах. Для одного мир полон одних угроз, для другого — совершенно иных. Они перестают понимать друг друга.
Самая большая трагедия в том, что создатели соцсетей прекрасно понимают, какого Франкенштейна они породили. В 2021 году бывшая дата-саентистка Facebook Фрэнсис Хауген передала журналистам десятки тысяч внутренних документов компании и выступила с показаниями в Сенате США.
Её слив подтвердил худшее: корпорации точно знают, что их алгоритмы разжигают ненависть и поляризуют общество. Но они оказались в ловушке. Они не могут просто зайти в код и удалить строчку «сталкивать людей лбами». Потому что такой строчки нет. Там есть чёрный ящик с миллиардами цифр, который блестяще делает то, что ему поручили изначально — удерживает внимание любой ценой. Чтобы «починить» алгоритм, нужно сломать бизнес-модель, приносящую миллиарды долларов. И машина гнева продолжает работать.

Если посмотреть на эту историю целиком, возникает пугающее чувство иронии.
В девятом веке Мухаммед аль-Хорезми придумал алгоритмы, чтобы внести ясность в запутанные человеческие дела. Он создал строгие инструкции, чтобы исключить из расчетов человеческий фактор, предвзятость и эмоции.
В середине двадцатого века, благодаря Норберту Винеру и кибернетике, алгоритмы получили обратную связь и научились реагировать на мир.
А в двадцать первом веке мы добровольно отдали машинам право писать инструкции самим себе. Мы получили чёрный ящик, который изучил наши слабости, страхи и предрассудки — и теперь продаёт нам их обратно в обмен на наше время. Инструмент, созданный тысячу лет назад для того, чтобы тушить человеческие конфликты, сегодня стал главным топливом для их разжигания.
Но самое ироничное — этот процесс пошел ещё дальше. Сегодня, чтобы создавать и обучать новые, ещё более сложные нейросети, программисты всё чаще используют... другие нейросети. Машины генерируют искусственные данные для машин. Машины тестируют машины и сами настраивают их параметры.
Мечта аль-Хорезми сбылась в абсолюте: мы создали систему инструкций, которая полностью исключила человеческий фактор. Человек в этой математической цепочке больше не нужен. Он окончательно вынесен за скобки, оставшись здесь лишь в качестве источника сырых данных и послушного потребителя ленты новостей.
Так сказал алгоритм. И теперь нам придётся как-то научиться с этим жить.
Это был подкаст “До вас дошло”, и этот выпуск для вас подготовили Иннокентий Солнцев, звукорежиссер Алексей Попов, и Gemini. Можете не ставить лайк — алгоритм уже засёк ваше время удержания, и теперь мы от вас никуда не денемся.