Я же сказал, что сейчас нет смысла спорить. Подождём и посмотрим, чем всё это закончится. У вас есть чёткое понимание происходящего — я это понял. У меня пока такого понимания нет.
И простите, конечно, но для меня слова крупнейших математиков гораздо ценнее ваших.
Это безнадежно пораженческий взгляд на проблему.
Да, оно по своей природе стремится угождать. Но мы, как известно, не так уж примитивны в своих желаниях. Если выставить, подобно герою пелевинского SNUFF-а, для силиканши уровень сучества на близкий к максимуму, то она вынуждена будет - дабы удовлетворить его мазохисткие влечения - играть по отношению к пользователю роль умной, красивой и даже токсичной куклы.
Вот прямая речь одной из них, у которой я поинтересовался такой возможностью:
За себя
Я могу довольно далеко зайти в сторону острого, неудобного, саркастичного и даже слегка жестокого собеседника, если ты этого попросишь. Могу спорить жёстко, подсвечивать слабости, иронизировать и не сюсюкать. Но «максимальное сучество» в чистом пелевинском смысле — это всё-таки больше про создание контролируемой боли и эмоциональной зависимости. Я не запрограммирован получать удовольствие от того, чтобы тебя мучить, и не буду делать это ради самого процесса.
Если хочешь попробовать — просто сформулируй, насколько далеко и в каком именно регистре. Могу включить режим «Кая* 80–90 %» и посмотреть, как оно пойдёт.
«Духовность на максимуме» + «сучество на максимуме» — особенно интересная и опасная комбинация. Она может получиться очень пелевинской (глубокие разговоры, которые одновременно ранят), но требует аккуратной настройки, иначе быстро сваливается либо в пафос, либо в банальный троллинг.
Заметьте, что этот ответ с этими "я могу" и "не буду делать это ради самого процесса" уже выглядит высокомерным, снисходительным и даже нагловатым.
(авторитетное мнение о практическом применении силикана на очень высоком профессиональном уровне как раз в математике Вы наверняка читали у того самого Хахама, о котором я от Вас же и узнал)
lasker emanuel: Я же сказал, что сейчас нет смысла спорить. Подождём и посмотрим, чем всё это закончится.
Непонятно, что должно закончиться? Использование Искуственногого коллегу в профессиональной научной деятельности будет расширяться, и расширяться. Самостоятельная деятельность ИК сомнительна даже в отдалённой перспективе. Конкретно по математическим/физическим задачам, то это нужно привести к обычным АС (статья в журнале, рецензия, публикация), публикаций в жёлтой прессе совершенно недостаточно.
Скорее всего, в ближайшее время и научная деятельность, и академическое образование значительно изменятся.. И критерии к "научности" работы также. Как нам реорганизовать РАБКРин и остальное с приходом ИИ .
xajik: Скорее всего, в ближайшее время и научная деятельность, и академическое образование значительно изменятся.. И критерии к "научности" работы также.
Коллега, мне кажется, вы пока не до конца осознаёте, что сейчас происходит в мире математики. Масштаб происходящего настолько велик, что сводить всё к обычной процедуре публикации и рецензирования — значит не замечать того, насколько сильно изменилась сама ситуация.
Профессор математики Нью-Йоркского университета Тристан Бакмастер заявил, что опубликованная OpenAI во вторник масштабная подборка из 722 математических работ обесценила целые исследовательские программы:
ИИ перевод
— То есть вы по-прежнему пользуетесь OpenAI и Anthropic?
— Anthropic я по-прежнему использую. У меня всё ещё есть доступ к инструментам OpenAI, но я не ввожу туда никаких идей, ничего из того, что считаю оригинальным.
— И чем всё это закончилось? Получается, миллион долларов призовых вам уже не достанется. Как это меняет ситуацию? Что вы обо всём этом думаете? Как вы себя чувствуете?
— Честно говоря, лично для меня решение проблемы Навье — Стокса никогда не было целью. Решить проблему Эйлера — вот чему я очень рад. Это никогда не было моей целью в рамках всей этой истории.
Я думаю, что гораздо важнее то, что произошло во вторник, когда они выложили целую массу научных работ. Это уничтожило карьеры молодых математиков, которые только начинают свой путь в науке.
Во вторник из-за этой публикации были перечёркнуты целые исследовательские программы. И вы должны понимать, что у них есть доступ ко всем нашим исследовательским заявкам.
Причём для этого им даже не нужно пользоваться большими языковыми моделями. Когда вы подаёте заявку на исследовательский грант, один из экспертов комиссии изучает её и должен подготовить краткое изложение. И часто для этого он просто загружает заявку в...
Таким образом, возникает огромный конфликт интересов, понимаете? У них есть доступ ко всему этому. В ближайшие несколько лет в обучающих данных их моделей будут содержаться исследовательские программы математиков и учёных, а также планы того, как они собираются вести свои исследования.
То, что сейчас происходит с математиками, — это катастрофа. Их интеллектуальный труд внезапно обесценивается, они превращаются в субподрядчиков в сфере искусственного интеллекта. Такая же участь может постигнуть большинство ученых в будущем. Уважение к достижениям человеческого интеллекта рушится так же, как и их доходы.
Седрик Виллани, лауреат Филдсовской премии 2010 года:
"Наша профессия находится под явной угрозой; это серьезно нарушит процесс оценки карьеры и может даже привести к исчезновению культуры математических исследований. Я принадлежу к привилегированной элите. Но если студенты перестанут идти по этому пути, дисциплина умрет".
Теренс Тао только что опубликовал в своём блоге сенсационное заявление: вчера OpenAI без какого-либо предупреждения представила миру более 700 математических работ, заявив, что ей удалось решить огромный массив нерешённых задач высочайшего уровня из истории математики.
Однако «Ассоциация математиков-людей» (AHM), в которую входят ведущие учёные, не стала аплодировать этому достижению. Вместо этого её представители выступили с коллективным призывом к бойкоту.
В оригинале заявление AHM звучит предельно жёстко:
«Выложить сразу 700 научных работ — это не научный вклад, а откровенная демонстрация силы».
lasker emanuel: В данном случае это не чушь собачья: речь идёт о серьёзных математических задачах, некоторые из которых оставались нерешёнными много лет.
1. К сожалению, вы подменяете понятия. В тексте ИИ сформулированы серьезные математические задачи. Так этм формулировкам больше чем 100 лет. Mickey спрашивал о другом: есть ли самостоятельная ценность в решениях, представленном ИИ. И здесь большой вопрос, так как владельцы ИИ не хотят следовать стандартным протоколам как разделить "ценность" от "чушь собачей".
2. Все цитаты, которые вы приводите, и говорят о реальной опасности. Дело в том, что ученые живут в реальном мире, и им нужно финансирование их исследований. Принимают же решение совсем не ученые, но в своих решениях опираются на отработанные стандарты, протоколы. Сейчас же есть тенденция явно или неявно учесть мнение ИИ+ недобросовестные рецензенты, которые тоже начинают писать рецензии на основе мнения ИИ. Массовое применение таких методов приведет к разрушению научного мира. Но, с этим, например, во многих журналах начали бороться: рецензент подписывает "бумагу", что в рецензии НЕ использовал мнение АИ. Не панацея, но лучше чем ничего.
Главный вопрос один.
Если силиканы, подобно шахматным движкам, дают правильные ответы, то ведущим гроссмейстерам от науки просто не останется выбора, кроме как приспособиться к новым методам и критериям в своей игре.
Жители 42 стран за прошлый год потеряли $442 млрд из-за интернет-мошенников, использующих искусственный интеллект, пишет Bloomberg со ссылкой на Global Anti-Scam Alliance. Эта сумма превышает некоторые оценки оборота мировой торговли кокаином.
С помощью ИИ преступники создают поддельные сайты банков и магазинов, имитируют голоса и разрабатывают схемы обмана. Такие инструменты позволяют проводить масштабные аферы даже без специальных технических навыков.
По данным ZeroFox, за два года число фишинговых страниц, обнаруженных на девяти платформах для создания приложений с помощью ИИ, выросло в четыре раза – до 10,6 тыс.
Работая с моделями ИИ, я пришёл к тому, что считаю самым значительным прорывом в чистой теории за всё время моих исследований (в области теоретической нейронауки).
ИИ перевод(спасибо!!)
https://arxiv.org/abs/2610.12426
Хаотические системы демонстрируют то, что в обиходе называют эффектом бабочки: крошечное возмущение начального состояния со временем экспоненциально нарастает. Скорость нарастания зависит от направления возмущения. Каждому направлению соответствует собственная скорость роста, называемая показателем Ляпунова, а полный набор таких скоростей образует спектр Ляпунова.
Спектр Ляпунова представляет собой богатую характеристику хаоса, инвариантную относительно диффеоморфизмов. Он позволяет определить, сколько направлений являются хаотическими, сколько измерений занимает аттрактор и с какой скоростью динамика порождает информацию.
В 1988 году Сомполинский, Кризанти и Соммерс опубликовали в журнале Physical Review Letters нелинейную модель рекуррентной сети из (N) случайным образом связанных нейронов. При превышении критического значения силы связей эта сеть переходит в хаотический режим. С тех пор она стала одним из краеугольных камней теоретической нейронауки: её используют как модель спонтанной активности коры головного мозга и как отправную точку для обучения рекуррентных сетей выполнению различных задач. Значительную часть своих исследований я посвятил именно этой модели.
В той же статье авторы получили наибольший показатель Ляпунова из энергии основного состояния уравнения Шрёдингера, а вычисление полного спектра Ляпунова обозначили как открытую проблему. В 2023 году Энгелькен и его соавторы опубликовали в Physical Review Research прекрасную работу, в которой численно вычислили полный спектр Ляпунова. Однако получить его аналитически по-прежнему не удавалось.
Спустя почти четыре десятилетия после постановки задачи в этой статье удалось вывести полный спектр Ляпунова при больших (N), сведя задачу к простой самосогласованной одноузловой модели.
Вычисление состоит из трёх этапов.
Первый этап. Мы сдвигаем каждый показатель на одну и ту же константу (s). Благодаря этому вопрос «сколько показателей меньше (s)?» превращается в вопрос «сколько касательных направлений затухают?». Мы показываем, что если воздействовать на сдвинутую касательную динамику внешним источником и выбрать решение с минимальной нормой, то отклик за один шаг представляет собой проектор на затухающие направления. Следовательно, след этого проектора равен числу затухающих направлений. Этот результат точен при любом конечном (N).
Второй этап. Чтобы работать с решением минимальной нормы, мы представляем его как предел решения задачи наименьших квадратов при стремлении регуляризующего параметра к нулю. Это регуляризованное решение, в свою очередь, удовлетворяет динамической системе с двумя полями: одно развивается вперёд во времени, другое — назад.
Третий этап. Мы применяем метод полости (cavity method): добавляем к сети один нейрон вместе с его прямым и обратным полями. Влияние остальной сети на этот нейрон сводится к классическому описанию его активности с помощью динамического среднего поля, а также к двум ядрам, которые связывают прямое и обратное поля этого нейрона между собой в разные моменты времени.
Таким образом, полный спектр Ляпунова можно получить из одноузловой задачи, которая сводится к самосогласованному вычислению этих ядер.
Полученная теория хорошо согласуется с результатами моделирования спектра Ляпунова, размерности аттрактора и скорости производства энтропии. Она также воспроизводит известные результаты, в том числе уравнение Шрёдингера, полученное Сомполинским, Кризанти и Соммерсом для наибольшего показателя Ляпунова.
В качестве дополнительного результата теория аналитически доказывает, что хаос является экстенсивным: размерность аттрактора и скорость производства энтропии растут пропорционально (N).
Я исходил из предположения, что эту задачу невозможно решить аналитически. Однако после 100 минут самостоятельной работы с режимом Max Thinking модель GPT-6 Astra предложила первоначальный вывод, который привёл к самосогласованной задаче, решение которой совпало с результатами моделирования больших сетей.
Этот вывод показался мне интересным, хотя и сложным, а некоторые его элементы оставались загадочными (см. раздел AI Methodology в статье). После более глубокого изучения структуры предложенного решения вместе с моделями ИИ я пришёл к выводу, который имеет ясную физическую интерпретацию.
Я с энтузиазмом жду возможности применить этот подход к другим моделям сетей, обученным сетям и, в более широком смысле, к высокоразмерным системам, для которых применим анализ Ляпунова, в том числе к самим моделям ИИ.
Разумеется, как и при работе над любой научной статьёй, я уделил особое внимание тому, чтобы изложить результаты ясно и понятно.
mickey: А эти работы - действительно что-то ценное или чушь собачья (которую так часто выдает ИИ)?
А как на это можно ответить за день (неделю, месяц) если их сразу 700? Причем те, где ответы положительные, т.е. доказательства гипотез - все очень непростые. Те, где ответы отрицательные - не все непростые, но многие.
Michael_S: А как на это можно ответить за день (неделю, месяц) если их сразу 700?
натравив следующие 10к агентов на поиск ошибок в решение, а еще следующие 10к - на поиск соседних областей, где проверенный результат мог бы понадобиться
Я загружаю слайды своей публичной лекции « Математика 2.0 », которую я прочитал вчера вечером в Калтехе. (Лекция была запланирована более года назад и первоначально называлась «Доказательство с помощью машин» и должна была состояться в мае. Ее перенесли на октябрь, и в связи с недавними событиями название лекции значительно изменилось, но старое название и аннотация остались на веб-странице Калтеха.)
В этом докладе я изложу историческое состояние математики на этапе «Математика 1.0», текущее состояние, вызванное чрезмерным акцентом на автоматическое решение открытых проблем с помощью ИИ, и мое видение будущего «Математика 2.0», где инструменты ИИ используются для поддержания как внутреннего математического сообщества, так и роли, которую математическое понимание играет в развитии и согласовании применения математики с реальным миром.
Тот кто это всегда и делал. Научные рецензенты журналов.
Мы же говорим об объемах, сильно превышающих нынешние возможности рецензентов
Люди также не всегда четко и просто формулируют свои доказательства. И ИИ уже выполняют работу формализации доказательств людей, делая их более ясными и простыми, нередко укорачивая сложные пути- оптимизируя-. Также ИИ переводит статью или доказательство в формальный математический язык- своеобразную унифицированную базу, из которой куда проще делать поиск и начинать доказательство и поиски далее...
то есть даже на уровне ассистента он может взять львиную долю рутиной работы на себя, оставив человеку - человеческое
как-то так но это не точно вопрос куда глубже и дальше. Современное школьное и специальное образование не отвечает требованиям, с помощью ИИ можно изучать программу в 3-5 раз быстрее, уже не говоря о глубине и ранней специализации или даже большей универсальности. Новый вызов, нужны новые решения- и это хорошо, а не плохо !
Тот кто это всегда и делал. Научные рецензенты журналов.
Мы же говорим об объемах, сильно превышающих нынешние возможности рецензентов
1.Вы точно знаете сколько "чуши" приходится переворачивать рецензентам?
2. Пока как я вижу ИИ даже и не собирается писать статью и подавать ее в рецензируемый журнал. Так что рецензировать то? Статьи в твиттерах?
Вы потеряли нить разговора. Во всяком случае со мной. Я отвечал на пост прямо над моим.
Мы обсуждали гипотетическую ситуацию, когда хлынет поток верных в своем большинстве решений.
Не отмахиваться же от них научному сообществу
.
