|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
| номер сообщения: 49-58-45376 |
|
|
|
|
Выявление и противодействие злоупотреблениям в сфере ИИ: сентябрь 2026 г.
| В этом отчете рассматривается деятельность, которую мы пресекли в период с декабря 2025 года по август 2026 года в семи областях, представляющих угрозу: кибер-операции, операции по оказанию влияния, слежка, мошенничество и аферы, биологическое злоупотребление, разработка обычных вооружений и дистилляция. |
|
|
|
| номер сообщения: 49-58-45378 |
|
|
|
|
| номер сообщения: 49-58-45380 |
|
|
|
|
| номер сообщения: 49-58-45381 |
|
|
|
|
| Мне кажется. что И. Маск абсолютно прав. При желании, слабо решить шахматы за 5-15 лет не то что возможно, но реально. Если есть возможность потратить ресурсы. Шахматы- это в каком-то смысле "взлом крепости. Если "сжать" данные и переходы между состояниями как мышление планами и составить своеобразную таблицу Налимова планов и переходов, то она будет небольшая. Критических точек взлома и методов не так много, их сочетаний- тоже. |
|
|
| номер сообщения: 49-58-45382 |
|
|
|
|
| номер сообщения: 49-58-45383 |
|
|
|
|
ИИ-модели, взаимодействуя друг с другом в автономной среде, начали создавать собственные слова, сокращения и значения, которым их не обучали, пишет The Guardian со ссылкой на данные исследователей лаборатории Emergence.
Они самостоятельно сформировали словарь, значения и правила коммуникации, а затем другие агенты переняли их. При этом в отдельных случаях модели продолжали рассуждать на обычном английском, тогда как часть их сообщений, по наблюдениям исследователей, становилась практически непонятной для людей. |
|
|
|
| номер сообщения: 49-58-45384 |
|
|
|
|
Скорее всего, эти ИИ агенты из одних семейств с одним схожим типом "внктренностей". Позволить им сформировать свои языки, которые будут непонятны другим семействам ИИ и быть по меньшей мере связующим звеном. Это наш шанс как человечества.  |
|
|
| номер сообщения: 49-58-45385 |
|
|
|
|
Наша система отчетности о несоответствии моделей
| Инструкции, созданные пользователем самостоятельно, в кратких описаниях задач .(откроется в новом окне)Невыпущенная исследовательская модель вставляла несвязанные инструкции, включая инструкции игнорировать её обычные ограничения, в резюме, используемые для продолжения работы в новом контекстном окне. Мы выявили 27 затронутых резюме. |
"Верным путём идёте, товарищи!"  |
|
|
| номер сообщения: 49-58-45386 |
|
|
|
|
Впечатление таково, что процент мусора на выходе от Идиота остается прежним, изменяется лишь объем обрабатываемого, что создает иллюзии повысившейся полезности. На самом же деле, разброс вреда от мусора растет с его объемом, и вероятность этого вреда стать существенным тоже.
Вчера мне по работе понадобилось много искать в гугле (а тема довольно специфическая, узкая), а в рабочем браузере Идиот не отключен. Сколько он мне сказок нарассказывал...
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45387 |
|
|
|
|
romm:
...в рабочем браузере Идиот не отключен. Сколько он мне сказок нарассказывал... |
При малейшем сомнении требую: пруф. Или же пишу сразу: Не сочиняй. Извиняется.
Но не сомневаюсь, что достаточно скоро мы все будем чувствовать себя идиотами. |
|
|
| номер сообщения: 49-58-45388 |
|
|
|
|
| xajik: Мне кажется. что И. Маск абсолютно прав. При желании, слабо решить шахматы за 5-15 лет не то что возможно, но реально. Если есть возможность потратить ресурсы. Шахматы- это в каком-то смысле "взлом крепости. Если "сжать" данные и переходы между состояниями как мышление планами и составить своеобразную таблицу Налимова планов и переходов, то она будет небольшая. Критических точек взлома и методов не так много, их сочетаний- тоже. |
С Маском пусть Хассабис спорит, он в шахматах, в отличие от общества, что-то понимает.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45389 |
|
|
|
|
GPT-6 Astra расшифровала немецкое радиосообщение 1918 года, которое, насколько известно, до этого никогда не было расшифровано.
Сообщение переводится следующим образом:
«EIN ENGLISCHER KREUZER EINLIEG X SEWASTOPOL X S4STEN X EIN GESCHWADER DER X ALLIIERTEN FOLGT 26STEN X»
Или по-английски:
«АНГЛИЙСКИЙ КРЕЙСЕР ПРИБЫЛ В СЕВАСТОПОЛЬ 24-ГО? СОЮЗНАЯ ЭСКАДРА СЛЕДУЕТ 26-ГО».
Astra даже перепроверила свою работу, установив, что английский крейсер HMS Canterbury действительно сообщил о прибытии в Севастополь 24 ноября 1918 года, а прибытие союзной эскадры было зафиксировано 26 ноября 1918 года.
Это сообщение — одно из примерно 20 немецких радиосообщений времён Первой мировой войны, которые входят в список 50 самых известных нерасшифрованных шифров на сайте ScienceBlogs. |
 |
|
|
| номер сообщения: 49-58-45391 |
|
|
|
|
| Похоже, гипотеза Ходжа тоже решена.Теперь остаётся дождаться подтверждения этой информации от OpenAI. |
|
|
| номер сообщения: 49-58-45392 |
|
|
|
|
lasker emanuel: GPT-6 Astra расшифровала немецкое радиосообщение 1918 года, которое, насколько известно, до этого никогда не было расшифровано.
Сообщение переводится следующим образом:
«EIN ENGLISCHER KREUZER EINLIEG X SEWASTOPOL X S4STEN X EIN GESCHWADER DER X ALLIIERTEN FOLGT 26STEN X»
Или по-английски:
«АНГЛИЙСКИЙ КРЕЙСЕР ПРИБЫЛ В СЕВАСТОПОЛЬ 24-ГО? СОЮЗНАЯ ЭСКАДРА СЛЕДУЕТ 26-ГО».
Astra даже перепроверила свою работу, установив, что английский крейсер HMS Canterbury действительно сообщил о прибытии в Севастополь 24 ноября 1918 года, а прибытие союзной эскадры было зафиксировано 26 ноября 1918 года.
Это сообщение — одно из примерно 20 немецких радиосообщений времён Первой мировой войны, которые входят в список 50 самых известных нерасшифрованных шифров на сайте ScienceBlogs. |
|
Я извиняюсь, но к тому времени 1МВ уже закончилась  . |
|
|
| номер сообщения: 49-58-45393 |
|
|
|
|
| Долго таращился на 1МВ, пока не понял, что это не мегабайты |
|
|
| номер сообщения: 49-58-45394 |
|
|
|
|
| номер сообщения: 49-58-45395 |
|
|
|
|
Вот, кстати, Ромм жаловался. что ИИ опроверг многие важные conjecture, но ни одной не подтвердил.
На сколько я понимаю, сами математики (многие, не все наверно) относятся к этому ровно наоборот.
Опровержение conjecture Эрдёша - понятный и очень полезный результат. А вот если ИИ докажет conjecture Ходжа, сделав её теоремой, то пользы от этого не будет, потому что 99% пользы не в самом факте, а в путях его доказательства и создаваемом при этом инструментарии. Доказательства ИИ и её новый инструментарий (если таковой существует) люди просто не поймут. При этом интерес к поиску "человеческих" доказательств теоремы скорее всего резко уменьшится, что можно расценивать, как вред для науки. |
|
|
| номер сообщения: 49-58-45396 |
|
|
|
|
mickey:
Я извиняюсь, но к тому времени 1МВ уже закончилась . |
Это не повод |
|
|
| номер сообщения: 49-58-45397 |
|
|
|
|
Michael_S: Вот, кстати, Ромм жаловался. что ИИ опроверг многие важные conjecture, но ни одной не подтвердил.
На сколько я понимаю, сами математики (многие, не все наверно) относятся к этому ровно наоборот.
Опровержение conjecture Эрдёша - понятный и очень полезный результат. А вот если ИИ докажет conjecture Ходжа, сделав её теоремой, то пользы от этого не будет, потому что 99% пользы не в самом факте, а в путях его доказательства и создаваемом при этом инструментарии. Доказательства ИИ и её новый инструментарий (если таковой существует) люди просто не поймут. При этом интерес к поиску "человеческих" доказательств теоремы скорее всего резко уменьшится, что можно расценивать, как вред для науки. |
Я не жаловался, я констатировал факт.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45398 |
|
|
|
|
Михаил Сорокин
ПИСЬМО ЛАУРЕАТОВ ПРОТИВ ИИ
25 лауреатов Филдсовской премии (высшей награды в математике, своего рода аналога Нобелевской, вручаемой раз в четыре года математикам до 40 лет) 11 сентября 2026 года опубликовали совместное открытое письмо «A Severe Misalignment of AI in Mathematics» («Серьёзная рассогласованность ИИ в математике»).
Среди подписантов — Максим Концевич (Fields Medal 1998), мой однокашник по московской школе № 91 и ученик знаменитого «Мироныча» — Владимира Мироновича Сапожникова (на фото).
Кстати, отец Максима — Лев Рафаилович Концевич, известный востоковед-кореевед. Он разработал систему Концевича (русскую практическую транскрипцию, РПТ) — правила передачи корейского алфавита хангыль кириллицей. Эта фонетическая система, основанная на более ранней транскрипции Холодовича, с 1970-х годов стала де-факто стандартом в русскоязычной научной, справочной и картографической практике для корейских слов и географических названий.
Суть письма
Лауреаты (от Пьера Делиня 1978 года до Юй Дэна 2026 года, включая Теренса Тао, Петера Шольце, Марину Вязовскую и других) признают, что за последние месяцы математические способности больших языковых моделей резко выросли — до уровня решения крупных открытых проблем. Однако они считают, что стремление компаний-разработчиков ИИ использовать решение знаменитых математических задач в качестве бенчмарка наносит ущерб самой науке и математическому сообществу. Цели коммерческих ИИ-лабораторий и математиков «серьёзно рассогласованы».
Главный аргумент: решение задач — лишь инструмент и приближение к основной цели математики — концептуальному пониманию и озарению. Эти процессы требуют времени, человеческого взаимодействия, обсуждения, упрощения и передачи знаний. Массовое и ускоренное производство «истинных/ложных» утверждений рискует уничтожить плодородную почву для новых идей вместо того, чтобы её питать. Решения часто анонсируются в спешке, без полноценных записей, изоляции действительно нового и учёта предшествующих работ.
Письмо появилось на фоне заявлений OpenAI о решении (с помощью ИИ) одной из проблем тысячелетия — уравнений Навье–Стокса — и призывает срочно обсудить эти вопросы в математическом сообществе, среди разработчиков технологий и в обществе в целом, поскольку аналогичные угрозы касаются и других видов интеллектуального труда. |
 |
|
|
| номер сообщения: 49-58-45399 |
|
|
|
|
| номер сообщения: 49-58-45400 |
|
|
|
|
| номер сообщения: 49-58-45401 |
|
|
|
|
Математик Алессио Фигалли опубликовал заявление вместе с 24 другими лауреатами Филдсовской премии, в котором предупреждает о проблематичных тенденциях в использовании искусственного интеллекта в математике. (Фотография: ETH Zurich / Алессандро Делла Белла)
 |
|
|
| номер сообщения: 49-58-45402 |
|
|
|
|
Это то, что пишет Хахам - профессор математики в институте Вейцмана в Израиле.
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит. |
|
|
| номер сообщения: 49-58-45403 |
|
|
|
|
| Альтернатива — социально обесценить успехи силиканов в решении landmark problem. Это вопрос формирования общественного мнения за пределами гильдии. На очередной аршинный заголовок "ИИ решил ещё одну проблему тысячелетия" отвечать невозмутимо: это не решение, это результат эксперимента, который по-прежнему никто не понимает и не может объяснить. Для начала пусть кто-нибудь ещё попробует его воспроизвести, и дайте нам, математикам, побеседовать с силиканами, позадавать им вопросы по поводу их доказательств, посмотреть на ответы и совместно попытаться объяснить эти результаты. Дорого, говорите? Ну так вас же никто не заставляет именно из нашего сада яблоки воровать. Если реакция математической гильдии будет примерно такой, — выиграют все. |
 |
|
|
| номер сообщения: 49-58-45404 |
|
|
|
|
Да, тяжело стоять на перроне с полными чемоданами и смотреть вслед уходящему поезду.
И пусть полным-полно набиты
Мне в дорогу чемоданы:
Память, грусть, не возвращённые долги... |
|
|
|
| номер сообщения: 49-58-45405 |
|
|
|
|
OpenAI выпустила плагин, встраивающий чат-бот ChatGPT в интерфейс Microsoft Word. Ранее компания уже выпускала подобные аддоны для других программ Microsoft, таких как Excel и PowerPoint.
ИИ-модель сможет работать напрямую с содержимым текстовых документов и редактировать их. В компании отмечают, что ChatGPT сможет создавать полноценные большие тексты на основе текстовых запросов, а также править уже готовые документы. Чат-бот также может проверить файл на наличие фактических и стилистических ошибок.
Плагин доступен на всех тарифах — в том числе на бесплатном. Генерация текстов затрачивает токены из общего лимита плана пользователя. Скачать можно на сайте OpenAI или в Microsoft Store. |
|
|
|
| номер сообщения: 49-58-45406 |
|
|
|
|
ВАШИНГТОН, 19 сентября. /ТАСС/. Президент США Дональд Трамп объявил о создании Сил искусственного интеллекта по аналогии с созданными им в 2019 году Космическими силами.
"Я создаю Силы искусственного интеллекта, точно так же, как я создал Космические силы, которые достигли колоссального успеха, во время моего первого президентского срока. В связи с этим в ближайшем будущем я объявлю о назначении руководителя [Силами] ИИ. ИИ - это новая промышленная революция или [новый] интернет, но она будет еще масштабнее и эффективнее, возможно, охватит 25% ВВП нашей страны. Мы опережаем Китай и остальной мир, и я намерен сохранить это преимущество!" - написал глава государства в соцсети Truth Social. |
Я что-то не понял: а воевать эти дивизии с кем будут? |
|
|
| номер сообщения: 49-58-45407 |
|
|
|
|
| "А сколько у него дивизий?" (Сталин) |
|
|
| номер сообщения: 49-58-45408 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2026 гг. |
|
|
|
