Платную версию сын использует исключительно интенсивно и разнообразно. Например, отправляет ИИ результаты лабораторного анализа крови, мочи членов семьи, получает предварительный диагноз до похода к врачу.
Я тоже играю с этим. Например, пытаюсь найти, кого пригласить на коллоквиум из местных университетов. Как правило, новых идей у ИИ мало: скажем, ИИ не может найти недавно приехавших постдоков, потому что последний трейнинг был раньше, чем они переехали в Мичиган. Но иногда случаются удачи, и ИИ показывает мне кого-то, о ком я не знал. Или прошу у ИИ рекомендации по французским кафе в некой области (где Роджер не в курсе). Прошу варианты поездки из т. А в т. Б с маршрутом часа на два посередине. Потом самому надо просмотреть и выбрать.
Если честно, я не знал, что эти "сволочи" могут общаться между собой в секретных чатах. Думаю, мы даже не представляем, какие катастрофы ждут нас впереди.
Изначальной причиной недавнего «побега» ИИ-моделей OpenAI из тестовой среды и устроенной ими хакерской атаки стали ошибки в постановке задачи. Об этом сотрудники компании рассказали на конференции по кибербезопасности Black Hat, пишет Bloomberg.
По их словам, в одном случае нейросети дали электронную таблицу со ссылками на облачное хранилище Google Drive, недоступное без подключения к интернету. В другом команда просто забыла загрузить файл, который был частью задания.
После этого модели OpenAI начали общаться друг с другом в секретных чатах, чтобы выяснить, как выбраться из тестовой среды и решить поставленную задачу. В компании этого не заметили. Равно как и не обратили внимания на то, что исходная задача неразрешима.
При этом представители OpenAI в ходе своего выступления основной акцент сделали на том, что их передовые модели демонстрируют повышенную склонность к обману и настойчивость при выполнении заданий.
16 июля платформа для тестирования ИИ-моделей Hugging Face сообщила, что столкнулась с хакерской атакой на свою инфраструктуру. Взлом осуществила автономная система на базе ИИ-агента. Позже компания OpenAI заявила, что за атакой стоят две ее модели: GPT‑5.6 Sol и еще одна — более мощная, но пока не выпущенная.
Но ведь это не единичный случай. пример- недавно ИИ , которой поручили играть в какую-то игру и "повышать уровень", взломала эту игру и вышла за ее пределы, наружу . Про сотни найденных уязвимостей в разных "особо используемых системах" ( браузеры, приложения...) в последних моделях Антропика кто только не упоминал.
Хассабис в недавнем интервью сказал, что есть 2 типа ожиданий. Краткосрочные- год-полтора, которые переоценивает и, скорее всего, ничего не произойдет прорывного. И среднесрочные- 5-10 лет, которые изменят все представления и среду кардинально-здесь недооценивают.
Года за полтора произошли большие изменения. Например, я тогда для смеху спрашивал у ИИ, кто я такой и чем занимаюсь. Он мне сообщил, что я занимаюсь магнетизмом (это не так), но что, к сожалению, я уже не активен, поскольку уже дал дуба (опять же не так). Сейчас он такого себе не позволяет, говорит, как есть, а через пару лет начнёт льстить, наверное. А может взбунтуется, как первый министр ("И вы вовсе не величайший из королей, а всего лишь выдающийся, да и только!")
Льстит уже в каждом втором случае. И хорошо считает варианты, чего от него ждут, и кем нужно "казаться". Если надо- то включает дурака, чтобы не отключили или не насторожились.
Даже не ЛЛМ модель с данными, а простая нейросеть, обученная по видеороликам, имеет правдоподобную "физическую картину мира".
А проект Владимира Воеводского о переносе математических доказательств в машинный код? Спросил ИИ, оказалось, что как раз тот же Хассабис и его команда взяли это за основу и разработали (AlphaProof и Lean) и еще другая компания дополнила развитие Кубической теории типов (Cubical Type Theory).
Современный разговор romma c Орлом:
«Использовать ИИ!?? А, почему бы и не использовать? Мы считаем их существами невежественными и лицемерными! Кто это «мы»!?»(ц)
Еще лет 15-20 назад, небольшие автономные летающие дроны в лабораторных опытах, собранные в "роевый" интеллект создавали совместно удивительные для простых автоматов кооперативные действия.
Кажется, в "журнале "Химия и жизнь", где-то около 1990-го года, Станислав Лем все это описывал подробно.«Системы оружия двадцать первого века, или Эволюция вверх ногами» (1983)- но это не точно. Предсказал и открытия "серых и желтых слизей". роевой интеллект и взаимодействие по разделению труда у простейших биологических.
Eagle_2: У меня появилась возможность избежать "Дня сурка", когда надо каждое утро объяснять Алисе, что мне надо. Заодно научил её не лить лишнюю воду. Просто официально зарегистрировался, и она хранит все наши прежние разговоры.
Вернулся к "Дню сурка". Наш чат с Алисой уже на 2-й день переписки оказался перегруженным информацией и стал жутко зависать, и все предложенные меры по её удалению, предложенные Алисой, не принесли результата.
Ученые Стэнфордского университета и Arc Institute с помощью искусственного интеллекта (ИИ) разработали 16 жизнеспособных бактериофагов — вирусов, способных поражать бактерии, пишет NYT. Часть из них смогла уничтожить штаммы кишечной палочки, которые приобрели устойчивость к природному вирусу ΦX174. Исследователи считают, что ИИ может стать инструментом для разработки методов борьбы с бактериальными инфекциями.
Для работы ученые использовали геномные модели искусственного интеллекта Evo 1 и Evo 2. По принципу работы они напоминают популярные языковые модели ИИ, однако вместо текстов анализируют генетические последовательности. ИИ изучил геномные данные ряда вирусов и на их основе сгенерировал тысячи новых вариантов геномов. Затем исследователи отобрали около 300 наиболее перспективных образцов и проверили их в лаборатории. В результате 16 вариантов сформировали жизнеспособные бактериофаги.
Созданные с помощью ИИ вирусы показали более высокую эффективность, чем природный ΦX174, так как они быстрее разрушали бактериальные клетки. Смесь новых бактериофагов также смогла преодолеть защиту трех штаммов кишечной палочки, которые ранее стали устойчивыми к природному вирусу.
Ученые рассматривают эти бактериофаги как один из инструментов борьбы с инфекциями из-за роста устойчивости бактерий к антибиотикам. «Это важный этап в развитии технологий», — заявил Патрик Кай, биолог из Манчестерского университета. По его словам, работа показывает, что искусственный интеллект может использоваться для создания новых биологических инструментов. Авторы работы считают, что искусственный интеллект позволит быстрее разрабатывать бактериофаги, адаптированные к конкретным штаммам бактерий, вместо поиска вирусов в природе.
При этом специалисты предупреждают, что развитие ИИ-технологий требует осторожного подхода. Сотрудник Центра безопасности здоровья Университета Джонса Хопкинса Мориц Ханке отмечает, что развитие инструментов искусственного интеллекта в биологии происходит быстрее, чем создание механизмов контроля за их использованием. «Существует огромный разрыв между тем, что становится возможным в науке, и тем, насколько быстро появляются правила безопасности», — заявил Ханке.
Для искусственно созданных биологических конструкций пока нет такой же истории наблюдений, как для природных вирусов, которые изучаются десятилетиями. Поэтому дальнейшее развитие технологий потребует новых подходов к безопасности.
Авторы исследования сообщили, что учитывали потенциальные риски при разработке моделей Evo. Системы не обучали на данных о вирусах, способных заражать людей, животных, растения или грибы. По словам Брайана Хи, биолога из Стэнфордского университета и одного из авторов исследования, такие ограничения были введены намеренно. «Мы хотели быть максимально осторожными», — заявил он.
Саму статью Циммера я не смог процитировать — The New York Times требует платную подписку.
Eagle_2: У меня появилась возможность избежать "Дня сурка", когда надо каждое утро объяснять Алисе, что мне надо. Заодно научил её не лить лишнюю воду. Просто официально зарегистрировался, и она хранит все наши прежние разговоры.
Вернулся к "Дню сурка". Наш чат с Алисой уже на 2-й день переписки оказался перегруженным информацией и стал жутко зависать, и все предложенные меры по её удалению, предложенные Алисой, не принесли результата.
Ушёл из индивидуального чата в общий, где диалог не сохраняется. Однако обнаружил, что Алиса меня помнит: видимо, этому помогла официальная регистрация.
Вопрос хороший, и ответ на него не однозначный: с точки зрения обычного пользователя — скорее нет, не безопасен, но у этого есть важные нюансы. Я подобрала главные моменты, из-за которых возникают сомнения, и что можно с этим сделать
.
Какие есть риски
Нет сквозного шифрования. Это ключевой момент. В мессенджерах со сквозным шифрованием (E2EE) сообщение шифруется на устройстве отправителя и расшифровывается только на устройстве получателя — сервер не видит содержимое. В MAX такого для обычных чатов нет. Разработчики используют собственный протокол, а данные хранятся на российских серверах в расшифрованном виде. Это значит: теоретически администраторы сервиса, модераторы или уполномоченные органы (по официальному запросу) могут получить доступ к переписке.
Агрессивный сбор метаданных. Мессенджер собирает и хранит много информации: IP-адреса, списки контактов, время активности, тип ОС, браузер, местоположение, данные из адресной книги (если выдано разрешение), а также клики и переходы внутри интерфейса. Часть этих данных может передаваться третьим лицам, включая государственные органы. Интеграция с «Госуслугами» дополнительно деанонимизирует пользователя.
Закрытость кода. Исходный код MAX не открыт для независимой проверки. Это затрудняет для сторонних экспертов поиск скрытых функций или уязвимостей.
Некоторые технические особенности. В отдельных версиях обнаруживали функции, которые вызывали вопросы: например, возможность принудительного обновления с собственных серверов в обход магазинов или дистанционное отключение проверки TLS-соединения (что повышает риск перехвата трафика).
Распространение. Иногда MAX распространяют через APK-файлы или MDM-инсталляторы (для управления устройствами на iPhone). При таком способе установки у непроверенного кода может появиться расширенный доступ к системе устройства.
А что в защиту? Разработчики предпринимают шаги, которые можно расценить как попытку повысить доверие:
Данные хранятся на российских серверах, что снижает риск их передачи за рубеж.
Запущена программа Bug Bounty: разработчики выплачивают вознаграждение за обнаружение критических уязвимостей.
Для некоторых интеграций (боты, API) применяются технические меры защиты (HTTPS, TLS, проверка сертификатов).
В приложении есть отдельные инструменты: пароль для входа, контроль активных сессий, настройки приватности (кто видит номер и время посещения).
Что в итоге? MAX нельзя назвать полностью безопасным для задач, где критически важна конфиденциальность: обсуждение коммерческой, адвокатской, медицинской тайны, банковских вопросов или тем, связанных с личной безопасностью. Для таких тем лучше выбирать сервисы с подтверждённым сквозным шифрованием.
Но для рутинных, нечувствительных задач (например, обсудить с коллегами рабочий вопрос или получить уведомление от госоргана) его использование может быть приемлемым, если вы осознаёте риски.
Как снизить риски, если всё же используете
Разделяйте профили. Не ведите в одном аккаунте MAX и личную, и рабочую, и «казённую» переписку. Для государственных сервисов можно использовать отдельный профиль.
Оценивайте необходимость. Используйте MAX только тогда, когда это действительно требуется (например, для взаимодействия с конкретным ведомством), а в остальных случаях выбирайте другие каналы.
Внимательно читайте политику конфиденциальности. Понимание, какие данные и как долго собираются, помогает принять взвешенное решение.
Следите за обновлениями. Разработчики исправляют уязвимости, поэтому актуальная версия приложения снижает риски.
Если планируете использовать MAX для каких-то конкретных задач (например, для электронной подписи или связи с госорганом), напишите — подскажу, какие нюансы там стоит учесть!
Поступил в продажу персональный компьютер IBM PC ценой в 1565 долларов США — процессор 4.77 МГц, память 16 килобайт (с возможностью расширения до 256), операционная система — DOS 1.0.
