Теренс Тао. The Atlantic. Getty Images
За последние пару месяцев сразу несколько исследователей выступили с громкими заявлениями: им удалось решить ранее неразрешённую математическую задачу с помощью инструментов генеративного ИИ.
Дисклеймер: это вольная интерпретация интервью, опубликованного в издании The Atlantic. Перевод подготовила редакция «Технократии». Чтобы не пропустить анонс новых материалов подпишитесь на «Голос Технократии» — мы регулярно рассказываем о новостях про финтех и ИИ, а также делимся полезными мастридами и актуальными событиями.
Самые смелые обещания — вплоть до прорывов в решении наиболее сложных проблем современной математики — вполне могут оказаться пустым ажиотажем. Однако ряд решений, написанных ИИ, пусть и для гораздо менее громких задач, прошёл проверку. Речь идёт об ответах на некоторые из задач Эрдёша — более тысячи математических вопросов, сформулированных венгерским математиком Полом Эрдёшем, — которые были получены с использованием генеративных моделей, включая ChatGPT. В OpenAI поспешили объявить об успехе: «GPT-5.2 Pro решил ещё одну открытую задачу Эрдёша», написал в январе в X президент компании Грег Брокман. «Нас ждёт безумный год математических и научных открытий!» (OpenAI и The Atlantic связаны корпоративным партнёрством.)
Значительная часть интереса к этим новостям связана с тем, кто оценивал доказательства, созданные ИИ: Терренс Тао, профессор Калифорнийского университета в Лос-Анджелесе, которого многие считают величайшим из ныне живущих математиков. Его одобрение, казалось бы, подтверждает главный замысел генеративного ИИ — расширять границы человеческого знания и цивилизации. Однако в разговоре со мной в начале месяца Тао был гораздо сдержаннее. Решения задач Эрдёша, созданные ИИ, впечатляют, признал он, но не производят ошеломляющего эффекта: по его словам, боты фактически одержали несколько «лёгких побед».
Тао давно с интересом, но без излишнего энтузиазма наблюдает за тем, что ИИ может дать его области. Когда мы впервые беседовали осенью 2024 года, он сравнил чат-ботов с «посредственными, но не полностью беспомощными» аспирантами. Примерно полгода спустя он отметил, что модели стали лучше справляться «с определёнными типами сложных математических рассуждений», хотя им по-прежнему не хватает творческого подхода и они допускают тонкие ошибки. В нашей последней беседе он звучал более оптимистично. ИИ, возможно, ещё не готов решить все великие математические проблемы мира, но чат-боты уже способны работать в сотрудничестве с математиками. И тем самым, по его словам, открывают иной «способ заниматься математикой».
Беседа была отредактирована ради краткости и ясности.
Маттео Вонг: В последнее время много говорят о способности ChatGPT решать некоторые задачи Эрдёша. Как, по вашим наблюдениям, за последний год изменились математические возможности генеративного ИИ?
Терренс Тао: Есть большая группа людей, которые очень хотят увидеть истории успеха ИИ. И есть столь же многочисленная группа, стремящаяся обесценить любые достижения. А реальная картина гораздо сложнее и тоньше.
Среди задач Эрдёша есть небольшой набор громких, престижных проблем, которые действительно хотелось бы решить, и длинный «хвост» довольно малоизвестных задач. ИИ оказался особенно хорош в том, чтобы систематически проходить по этому длинному списку и закрывать самые простые из них. Но это совсем не человеческий стиль. Человек не стал бы методично перебирать все тысячу задач и выбирать двенадцать самых лёгких — а именно так, по сути, и действуют модели.
Разброс по уровню сложности здесь огромен. Если посмотреть на задачи, которые ИИ решил самостоятельно, становится ясно: они опирались на стандартные приёмы. Эксперт, посвятивший этому полдня, тоже бы справился. Есть и более сложные решения, где ИИ помогал человеку. В ближайшей перспективе, думаю, нас ждёт множество быстрых побед на простых задачах, полученных исключительно ИИ. А затем, в течение следующих месяцев, появится всё больше гибридных результатов — совместных работ человека и машины.
Я и сам чему-то учусь, читая некоторые из этих доказательств. Мне интересно их разбирать — бывает, что там используется приём из статьи 1960 года, о котором я не знал. Возможно, это не вершина творческой мысли, но подход оказывается новым и позволяет продвинуться там, где специалисты прежде считали задачу бесперспективной.
Вонг: Вы писали, что, подходя к новой задаче, математики, даже если не добиваются успеха, всё равно создают идеи и наработки, на которых затем строится работа других. Почему доказательства, полученные ИИ, не дают того же эффекта?
Тао: Представьте, что задача — это удалённая точка, до которой нужно добраться пешком. Раньше приходилось проделывать путь: оставлять ориентиры, по которым могли пройти другие, составлять карты.
ИИ действует как вертолёт, который высаживает вас прямо на месте. Вы лишаетесь всех преимуществ самого пути. А ведь именно этот путь и составляет значительную часть ценности решения.
Вонг: Если говорить о возможностях современных моделей, что ещё они могут дать математике — помимо того, что позволяют неспециалистам браться за более сложные задачи?
Тао: В математике много рутинной, утомительной работы, которую мы стараемся обходить изящными приёмами. А ИИ спокойно и быстро выполняет такие вычисления. Если встроить его в рабочие процессы, можно просто «пролетать» через подобные препятствия.
Кроме того, думаю, математика начнёт работать в более крупном масштабе. Представьте разницу между описанием отдельных случаев и массовыми исследованиями в науке. В XVIII веке, если болезнь была редкой, вы могли подробно изучать одного пациента, фиксировать симптомы, вести тщательные записи. В XXI веке вы проводите клиническое исследование, даёте препарат тысяче человек и получаете статистически надёжные данные о его эффективности.
Математика до сих пор во многом остаётся на уровне «разбора одного случая». Статья обычно посвящена одной-двум задачам, которые изучаются предельно глубоко и вручную, почти ремесленно. Это наш стиль. Но инструменты ИИ открывают возможность своего рода «популяционных исследований».
Вонг: Вас удивил прогресс, которого добились модели ИИ в математике?
Тао: В какой-то мере да. Многое из происходящего я ожидал, но это случилось немного раньше, чем я предполагал. Ненамного, но всё же.
В 2023 году я написал для Microsoft статью, где предположил, что к 2026 году ИИ станет надёжным соавтором — его вклад будет сопоставим с вкладом полноценного соавтора технической статьи. Реакция была неоднозначной: кто-то счёл это чрезмерно смелым прогнозом, кто-то — слишком осторожным. Но, по сути, всё развивается почти точно по графику. Уже сейчас ИИ вносит вклад, сопоставимый с тем, что можно ожидать от младшего соавтора-человека, особенно если тот охотно берётся за рутинную работу и прорабатывает множество однотипных случаев.
Вонг: Каких улучшений вы ждёте или хотели бы увидеть в генеративных моделях в ближайшие год-два?
Тао: Нам нужно найти баланс: поощрять ответственное использование ИИ и сдерживать безответственное. Это тонкая грань. Но подобное уже было. Математики давно используют компьютеры для численных расчётов, и поначалу к компьютерным доказательствам относились с большим недоверием: как можно доверять коду? За двадцать-тридцать лет мы выработали стандарты. Сейчас же сроки гораздо сжаты — нам придётся выработать их за несколько лет, а научное сообщество обычно движется медленно.
Есть и более простая вещь, которая помогла бы математическому сообществу: когда ИИ даёт ответ, он, как правило, не сообщает, насколько уверен в нём, или же заявляет о полной уверенности. Для человека степень уверенности — важная информация. Допустимо выдвигать гипотезу, в которой ты не полностью уверен, но важно честно обозначать сомнения. Модели И И пока не умеют адекватно оценивать собственную надёжность. Это снижает их практическую ценность. Нам бы хотелось большей честности от ИИ.
Кроме того, многие компании зациклены на идее полностью автономного сценария: нажал кнопку, передал задачу ИИ, пошёл за кофе — и вернулся к готовому решению. Но для сложных задач это не лучший подход. Здесь нужна беседа, взаимодействие человека и машины. А компании пока не особенно способствуют такому формату.
Если удастся наладить сотрудничество хотя бы с частью технологических компаний, готовых развивать более интерактивные платформы, это будет гораздо охотнее принято сообществом. Мы не хотим сводиться к роли людей, которые просто нажимают кнопки.
Значительная часть интереса к этим новостям связана с тем, кто оценивал доказательства, созданные ИИ: Терренс Тао, профессор Калифорнийского университета в Лос-Анджелесе, которого многие считают величайшим из ныне живущих математиков. Его одобрение, казалось бы, подтверждает главный замысел генеративного ИИ — расширять границы человеческого знания и цивилизации. Однако в разговоре со мной в начале месяца Тао был гораздо сдержаннее. Решения задач Эрдёша, созданные ИИ, впечатляют, признал он, но не производят ошеломляющего эффекта: по его словам, боты фактически одержали несколько «лёгких побед».
Тао давно с интересом, но без излишнего энтузиазма наблюдает за тем, что ИИ может дать его области. Когда мы впервые беседовали осенью 2024 года, он сравнил чат-ботов с «посредственными, но не полностью беспомощными» аспирантами. Примерно полгода спустя он отметил, что модели стали лучше справляться «с определёнными типами сложных математических рассуждений», хотя им по-прежнему не хватает творческого подхода и они допускают тонкие ошибки. В нашей последней беседе он звучал более оптимистично. ИИ, возможно, ещё не готов решить все великие математические проблемы мира, но чат-боты уже способны работать в сотрудничестве с математиками. И тем самым, по его словам, открывают иной «способ заниматься математикой».
Беседа была отредактирована ради краткости и ясности.
Маттео Вонг: В последнее время много говорят о способности ChatGPT решать некоторые задачи Эрдёша. Как, по вашим наблюдениям, за последний год изменились математические возможности генеративного ИИ?
Терренс Тао: Есть большая группа людей, которые очень хотят увидеть истории успеха ИИ. И есть столь же многочисленная группа, стремящаяся обесценить любые достижения. А реальная картина гораздо сложнее и тоньше.
Среди задач Эрдёша есть небольшой набор громких, престижных проблем, которые действительно хотелось бы решить, и длинный «хвост» довольно малоизвестных задач. ИИ оказался особенно хорош в том, чтобы систематически проходить по этому длинному списку и закрывать самые простые из них. Но это совсем не человеческий стиль. Человек не стал бы методично перебирать все тысячу задач и выбирать двенадцать самых лёгких — а именно так, по сути, и действуют модели.
Разброс по уровню сложности здесь огромен. Если посмотреть на задачи, которые ИИ решил самостоятельно, становится ясно: они опирались на стандартные приёмы. Эксперт, посвятивший этому полдня, тоже бы справился. Есть и более сложные решения, где ИИ помогал человеку. В ближайшей перспективе, думаю, нас ждёт множество быстрых побед на простых задачах, полученных исключительно ИИ. А затем, в течение следующих месяцев, появится всё больше гибридных результатов — совместных работ человека и машины.
Я и сам чему-то учусь, читая некоторые из этих доказательств. Мне интересно их разбирать — бывает, что там используется приём из статьи 1960 года, о котором я не знал. Возможно, это не вершина творческой мысли, но подход оказывается новым и позволяет продвинуться там, где специалисты прежде считали задачу бесперспективной.
Вонг: Вы писали, что, подходя к новой задаче, математики, даже если не добиваются успеха, всё равно создают идеи и наработки, на которых затем строится работа других. Почему доказательства, полученные ИИ, не дают того же эффекта?
Тао: Представьте, что задача — это удалённая точка, до которой нужно добраться пешком. Раньше приходилось проделывать путь: оставлять ориентиры, по которым могли пройти другие, составлять карты.
ИИ действует как вертолёт, который высаживает вас прямо на месте. Вы лишаетесь всех преимуществ самого пути. А ведь именно этот путь и составляет значительную часть ценности решения.
Вонг: Если говорить о возможностях современных моделей, что ещё они могут дать математике — помимо того, что позволяют неспециалистам браться за более сложные задачи?
Тао: В математике много рутинной, утомительной работы, которую мы стараемся обходить изящными приёмами. А ИИ спокойно и быстро выполняет такие вычисления. Если встроить его в рабочие процессы, можно просто «пролетать» через подобные препятствия.
Кроме того, думаю, математика начнёт работать в более крупном масштабе. Представьте разницу между описанием отдельных случаев и массовыми исследованиями в науке. В XVIII веке, если болезнь была редкой, вы могли подробно изучать одного пациента, фиксировать симптомы, вести тщательные записи. В XXI веке вы проводите клиническое исследование, даёте препарат тысяче человек и получаете статистически надёжные данные о его эффективности.
Математика до сих пор во многом остаётся на уровне «разбора одного случая». Статья обычно посвящена одной-двум задачам, которые изучаются предельно глубоко и вручную, почти ремесленно. Это наш стиль. Но инструменты ИИ открывают возможность своего рода «популяционных исследований».
Вонг: Вас удивил прогресс, которого добились модели ИИ в математике?
Тао: В какой-то мере да. Многое из происходящего я ожидал, но это случилось немного раньше, чем я предполагал. Ненамного, но всё же.
В 2023 году я написал для Microsoft статью, где предположил, что к 2026 году ИИ станет надёжным соавтором — его вклад будет сопоставим с вкладом полноценного соавтора технической статьи. Реакция была неоднозначной: кто-то счёл это чрезмерно смелым прогнозом, кто-то — слишком осторожным. Но, по сути, всё развивается почти точно по графику. Уже сейчас ИИ вносит вклад, сопоставимый с тем, что можно ожидать от младшего соавтора-человека, особенно если тот охотно берётся за рутинную работу и прорабатывает множество однотипных случаев.
Вонг: Каких улучшений вы ждёте или хотели бы увидеть в генеративных моделях в ближайшие год-два?
Тао: Нам нужно найти баланс: поощрять ответственное использование ИИ и сдерживать безответственное. Это тонкая грань. Но подобное уже было. Математики давно используют компьютеры для численных расчётов, и поначалу к компьютерным доказательствам относились с большим недоверием: как можно доверять коду? За двадцать-тридцать лет мы выработали стандарты. Сейчас же сроки гораздо сжаты — нам придётся выработать их за несколько лет, а научное сообщество обычно движется медленно.
Есть и более простая вещь, которая помогла бы математическому сообществу: когда ИИ даёт ответ, он, как правило, не сообщает, насколько уверен в нём, или же заявляет о полной уверенности. Для человека степень уверенности — важная информация. Допустимо выдвигать гипотезу, в которой ты не полностью уверен, но важно честно обозначать сомнения. Модели И И пока не умеют адекватно оценивать собственную надёжность. Это снижает их практическую ценность. Нам бы хотелось большей честности от ИИ.
Кроме того, многие компании зациклены на идее полностью автономного сценария: нажал кнопку, передал задачу ИИ, пошёл за кофе — и вернулся к готовому решению. Но для сложных задач это не лучший подход. Здесь нужна беседа, взаимодействие человека и машины. А компании пока не особенно способствуют такому формату.
Если удастся наладить сотрудничество хотя бы с частью технологических компаний, готовых развивать более интерактивные платформы, это будет гораздо охотнее принято сообществом. Мы не хотим сводиться к роли людей, которые просто нажимают кнопки.