кажется научились дебажить с помощью "цепочки мыслей"

Ничего непонятно, но интересно.

Можно ли подправить что-то в модели нейронов? Проапгрейдить, в смысле. Сделать лучше, чем у постоянно врущих кожаных мешков.

почему бы?

"Но если система, сравнимая по сложности с одним человеческим разумом, вполне достижима, почему бы не превысить эту сложность в десять раз? Или в сотню? В тысячу?" (с) Желязны. Предисловие к книге "Звездный спидвей."