добрый дикий мир

децентрализованная вычислительная сеть Cocoon

В минимальных требованиях nvidia h100, со средней рыночной ценой около 3000000р. С учетом стремительно дорожающего железа, сервер с одной картой обойдется наверно ляма в 4. Сильно сомневаюсь, что будет окупаемость. Но предложение актуально для тех, у кого есть простаивающие без дела ускорители.

Зверюга с 8-ю картами.

Это с одной стороны. А с другой, история с закрытым кодом серверной части телеграм никуда не делась. Не знаю как здесь, но если код хоть чуточку закрыт - это дырка в безопасности датацентров, где найдутся люди, желающие подзаработать, установив этот "кокон". Как бы оттуда не вылупился "чужой".

А ведь через лет 15 появятся новые люди, для которых, что оригинальные композиции, что вот это вот, будут звучать одинаково в новинку. Отмена культуры подбирается откуда не ждали.

"Но есть и хорошие новости: третья группа из эксперимента MIT (та, что вовсе была лишена доступа к Интернет-инструментам) продемонстрировала воодушевляющую инверсную динамику. Когда её участникам предложили сделать второй заход на тему, над которой они уже хорошенько поразмыслили сами, но теперь разрешили использовать БЯМ, активность лобной и теменной долей у них, напротив, выросла, что свидетельствует об интенсивном обогащении знания, ранее выработанного мозгом, сведениями, полученными из нового источника.

Исследователи из MIT пришли к выводу, что бездумное обращение к ChatGPT и её сопоставимым по возможностям генеративным товаркам ввергает кожаных мешков в «когнитивную кабалу» (cognitive debt): расплатой за высокую скорость и в целом крайне убедительную (если забыть о неизбежных для БЯМ галлюцинациях) корректность получаемых ответов становятся ослабление памяти, снижение самоконтроля (ИИ воспринимается как некий непогрешимый гуру, суждения которого слепо транслируются даже в самостоятельно составляемый текст — без критического осмысления), а также деактивация нейронных связей. Зато наоборот, в инверсном режиме — когда выдачей БЯМ поверяют собственные умозаключения, — применять генеративные инструменты, судя по всему, не только можно, но и нужно." (c)

Ничего непонятно, но интересно.

Можно ли подправить что-то в модели нейронов? Проапгрейдить, в смысле. Сделать лучше, чем у постоянно врущих кожаных мешков.

На хабре щас статья про то, как установить deepseek локально. Как-то мутновато, через docker. Нагуглилось.

Хвала башеписателям install.sh, на debian 12 установился rocm, что для карт amd. И на rx560 вроде бы вполне себе фурычит. На ubuntu мне не удалось запустить rocm, видимо более новые драйвера ставит.

На случай, если ссылка не будет рабочей:

$wget https://ollama.ai/install.sh
#./install.sh
$ollama pull deepseek-r1:1.5b
$ollama run deepseek-r1:1.5b

Библиотека.

Во время работы скрипта выскочила ошибка про ssl. Оказалось, что встроенный семейный фильтр в роутере не дает скачивать модели ИИ.

upd. Как в анекдоте, то что считали оргазмом на самом деле астма.
level=WARN source=amd_linux.go:309 msg="amdgpu too old gfx803" gpu=0
level=INFO source=amd_linux.go:402 msg="no compatible amdgpu devices detected"
level=INFO source=gpu.go:377 msg="no compatible GPUs were discovered"
level=INFO source=types.go:130 msg="inference compute" id=0 library=cpu variant="" compute=""

И я не понимаю как перенести установку в директорию /home. Модели ставятся в /, а там места не хватает.

Во чо нагуглилось по поводу rocm на rx5xx: 1, 2.

Не знаю какая версия драйвера нужна, но так или иначе если и будет работать, то скорее всего на уже не поддерживаемой версии linux.

Моя следующая видеокарта, скорее всего, будет не AMD.

upd2. Вроде как нужна версия до 4.5, т.е. 4.3.1. Но в debian 12, как это частенько бывает в любом бинарном дистрибутиве при попытке установить что-то не из коробки, требует либы, которых либо нет, либо версия не та.

upd3. А тут пишут, что нужна версия 3.5.1.

upd4. Вроде бы внятное howto. В debian 12 не работает. Надо бы как нибудь попробовать в Ubuntu.

Как установить разные версии python.

upd5. Гугловский генеративный ИИ, вылезающий до первой строки поиска прекрасно ответил на вопрос как установить ollama в директорию /home.

добавить в .bashrc
export PATH="$HOME/ollama_local:$PATH"
export OLLAMA_MODELS="$HOME/.ollama/models"

Только вот я добавил эти строчки в админский .bashrc и заменил $HOME на путь. И сработало.

Интересно.
ИИ-модели основаны на принципах работы нейронов. ИИ-модели галлюцинируют. По логике получается, что глючат нейроны. А если так, то выходит, что в людях заложена способность галлюцинировать.

Перевод английского текста в картинки онлайн без регистрации и смс.

До текста в видео сколько лет осталось?

Внедрение ИИ в софт для проектирования чипов...
искусственного интеллекта при проектировании сверхбольших чипов

До такого даже в "Терминаторе" не додумались. А так-то логично. Пускай Skynet сам себя спроектирует.

Искусственный интеллект поможет избавить законодательство США от устаревших норм

"С 2019 года подобным анализом занималось Министерство здравоохранения и социальных служб США. В итоге искусственный интеллект выявил сотни ошибок и устаревших требований — например, требующих от заявителя отправки документов по факсимильной связи." (c)