kot_kam

В международной организации криптологических исследований IACR происходили выборы руководителя. Естественно, будучи профессионалами в области криптографии, они использовали хорошую, надежную систему Helios, секретный ключ, необходимый для подведения итогов голосования разделили на три части, которые хранились у разных доверенных людей.

Но, один из троих протоптал свою часть ключа и выборы не состоялись.

Мораль сей басни такова - когда вы что-то защищаете от несанкционированного доступа, никогда не забывайте об угрозе потери санкционированного доступа.

X-Post to LJ

Тут на слэшдоте пишут, что по крайней мере часть AI-функций в Power Toys для Windows 11 теперь может работать не путем обращения к удаленным серверам ЧатГПТ, а через локальную модель Ollama.

Хотя бы кто-то из крупных игроков вспомнил, что бывают и конфиденциальные данные, и вообще люди и конторы покупают себе персональные компьютеры не только в качестве терминала к удаленным серверам.

Вычитал интересную мысль:

Большими языковыми моделями нужно заменять не программистов, а менеджмент среднего звена. Всех этих «менеджеров проектов», «владельцев продукта» и тому подобных шарлатанов.

В компаниях размером от нескольких десятков человек от программистов часто требуют участия в садо-мазо практиках на тему «эффективного процесса разработки». Нужно создавать и закрывать тикеты на каждый чих, нужно отчитываться о проделанной работе и объяснять запланированную работу, нужно давать оценки сроков и объяснять, почему сроки в очередной раз сорваны.

Топ-менеджмент, который вводит это садо-мазо, можно понять. За потраченные на зарплаты программистов немалые деньги хочется понять, что происходит. Но немногие способные к программированию аутисты способны себя объяснить. Потому-то так сладка мечта о переводе с естественного языка на машинный код без посредников.

На самом-то деле, посредник в процессе разработки ПО — не программист, а менеджер среднего звена. Автоматизировать нужно не генерацию портянок кода (это невозможно без «сильного ИИ», способного к созданию новых абстракций), а процессуальное садо-мазо. Автоматический перевод нужен не с естественного языка в машинный код, а с бизнес-жаргона на техно-жаргон и обратно.

По-хорошему, не нужно даже переводить на низкоуровневый техно-жаргон, а только делать высокоуровневое описание, в духе ответов на задачки из интервью по системному проектированию, чтобы была общая договоренность о масштабе работ.

В этом году стало модно генерировать портянки при помощи «агентов». Даешь им «контекст» и «промпт», они начинают изображать бурную деятельность, «запускать инструменты», «обращаться к сервисам». В итоге ничего не работает, приходится все делать самому.

Гораздо полезнее были бы «агенты» не для программирования, а для отчетности. Вся работа программиста машиночитаема (переписка в чатах, репозитории кода, журналы сервисов). Вместо того, чтобы собирать десять косноязычных человек, стоящих 200 баксов в час за голову, на бестолковое часовое совещание и опрашивать по кругу «статус», «агент» мог бы обобщать произошедшее за сутки за минуту и описывать, что осталось сделать по текущим задачам, понятным бизнесу языком.

Вообще-то swamp_lynx я не читаю, а на этот пост набрел по наводке keleg, которого там заинтересовала другая мысль (этот пост - длинный список цитат из разных людей).

Что в этой идее мне не нравится — то, что вообще-то далеко не все в работе программиста (и вообще инженера) оставляет машинно-читаемые следы, которые может проанализировать и превратить в утешительные для менеджера отчеты ИИ. Значительная часть времени уходит на попытки понять, выстроить у себя в голове концептуальную модель. Это чтение книг, в том числе и бумажных, эксперименты (которые ИИ-агент даже если он их мониторит вряд ли сумеет понять, их и ставящий-то их человек не очень понимает, и ставит именно для того чтобы узнать ту половину ответа, которая позволит задать правильный вопрос). И тем более нетривиально дать оценку «что осталось сделать».