Алгоритм

[kot_kam]

Господа, у меня такой вопрос от гуманитария, наверное, в первую очередь все же программерам, а во вторую всем, кто плотно имеет дело с компьютерами, виртуальной реальностью, ИИ и т.п. Интерес не праздный, мне для дела надо.

От школьных уроков информатики у меня осталось впечатление, что алгоритм - это прежде всего четкая пошаговая последовательность действий. "Совокупность точно заданных правил решения некоторого класса задач или набор инструкций, описывающих порядок действий исполнителя для решения определённой задачи"(с) вики. То есть "прописать алгоритм" означает, в первую очередь, привести в порядок, понять, как и что надо делать и порезать слона на маленькие, удобоваримые кусочки. Таким образом, неотъемлемым свойством алгоритма является его прозрачность и познаваемость. Ну, это то, что у меня в голове застряло с девятого класса.

А тут вот Кир Злобин напомнил, что в последнее время слово "алгоритм" приобрело какое-то странное, ровно противоположное значение. Это какой-то черный ящик или, как тут выразились, НЕХ, действие которой максимально непрозрачно и непредсказуемо. Например, "алгоритмы фейсбука". Почему вот этого человека забанили? Почему мне пятый раз подсовывают вот этот пост, а тех постов, про которые я нарочно сказал, что хочу их видеть как можно чаще, я не вижу вообще? Потому что гладиолус. Алгоритмы такие. То есть не максимально прямое и логичное решение некой задачи, а загадочное магическое "трахтибидох", которое действует примерно как шляпа волшебника.

Кто-нибудь может мне объяснить, как и почему это вышло, и каким образом "алгоритм" из рецепта решения задачи превратился в шляпу фокусника?

Comments

[vitus_wagner]

С тех самых пор, когда алгоритмы стали скрывать от народа.

[levtsn.livejournal.com]

И причем совсем не власти

[vitus_wagner]

Я уже давно пришел к выводу что между государствами и корпорациями принципиальной разницы нет. И то и другое — способы объединения людей с целью получить возможность делать то, что одиночке не под силу. И то, и другое организовано иерархически и подчиняется законам Паркинсона и Питера.

[beldmit.livejournal.com]

Пока он в руках у тебя, это рецепт. Если ты о нём ничего не знаешь, то это чёрный ящик, который и есть технологический эквивалент шляпы волшебника.

[ikadell.livejournal.com]

Точно!

[aantero.livejournal.com]

Ничего не могу сказать конкретно про алгоритм фейсбука, но, из общих соображений:
- алгоритм может быть очень труднопредсказуем и непрозрачен, если таковы были требования, по которым он писался.
- алгоритм может быть очень труднопредсказуем и непрозрачен, если он так написан, что если в понедельник луна в Козероге, то он ведёт себя не так, как обычно; и таких исключений в достаточно сложный алгоритм можно напихать немеряно.
- "алгоритмом" в данном случае называется нечто, очень опосредовано соотносящееся с исходным определением. Машинное обучение — как раз такой случай.

Машинное обучение, грубо говоря, начинается с алгоритма в исходном значении и набора обучающих данных. Этот первичный алгоритм "обобщает" обучающие данные и таким образом создаёт вторичный "алгоритм", который потом работает с новыми данными в "боевой" обстановке, но он уже не человекочитаемый. На каком основании вот этот вторичный "алгоритм" называется тем же словом — не знаю.

Апдейт. Вижу множество комментариев вида "это для вас он непознаваем, а ОНИ отлично знают, как и что работает". Мой собственный опыт заставляет предполагать обратное. Если даже речь идёт об алгоритме в исходном значении, то, если он достаточно сложен и используется достаточно долго, то это, как правило, означает, что требования к его функционированию множество раз менялись, а в соответствии с ними менялся и сам алгоритм, причём, каждое новое изменение могли производить новые люди. При этом, как правило, ни те, кто формулировал изменения в требованиях, ни те, кто эти изменения воплощал, не понимали весь алгоритм в общем и каждую его деталь в частности. Можно так же предположить, что полного понимания этого алгоритма нет ни у кого, а точного его описания нет нигде.

[bradypodidae-ya.livejournal.com]

Передаю ответ программиста: вы всë правильно понимаете про алгоритм.
Проблема Фейсбука и в том, что алгоритмов много, и в том, что как соцсети им важно показывать вам не то, что вы хотите, а то, что им нужно вам показать.

[ugly-troll.livejournal.com]

слово "алгоритм" приобрело какое-то странное, ровно противоположное значение. Это какой-то черный ящик или, как тут выразились, НЕХ, действие которой максимально непрозрачно и непредсказуемо. Например, "алгоритмы фейсбука". 

так это для нас "черный ящик", а для них всё так, как они захотели организовать, но нас не информируют, жулики, к изменению смысла слова "алгоритм" не имеет отношения.

[buddha239.livejournal.com]

Бывают короткие алгоритмы, а бывают — длинные (и, к тому же, часто недоступные для изучения мне с Вами).:) А если еще и конечная цель алгоритма четко не прописана, то мы, получается, о нем почти ничего не знаем.

[yaceya.livejournal.com]

Алгоритмы, действительно, прописаны — ноликами и единичками. Но из этого не следует их прозрачность и познаваемость — это вопрос доступности и сложности. И, кстати, четкость порядка в нарезании того же слона исчезает уже на этапе, когда вы решаете что вам не нужны обязательно одинаковые кусочки и в определенном порядке, а сбрасываете на островок где этот слон находится миллион топоров с сотни самолетов. Для слона и острова, на который падают все эти топоры, поверьте, "прозрачности и познаваемости" будет мало.
Оставляя в стороне вопросы сложности обработки огромных объемов информации и кривости входящих данных и привычки программеров кодить криво, предлагаю: почему вы считаете что если вы нарочно сказали что хотите кого-то видеть часто, то это и есть "определенной задачей"?
Определенная задача у фейсбука — заработать денежку. Вы можете сами не ощущать что сталкиваясь с тепи постами, которые вам не нравятся (вперемешку с нравящимися постами) вполне может приводить к тому что на вас заработают больше.
А здесь мы возвращаемся к максиме, известной еще во времена, когда вам написали то определение алгоритма: 'if you're not paying for the product, you are the product' (из чего не значит, конечно, что если вы платите, то вы не продукт).

[katherine-kinn.livejournal.com]

Так алгоритмы фейсбука — это "черный ящик" только для пользователя. Внутри механики фейсбука все в порядке, чуваки, которые их прописывают, делают это прозрачно и познаваемо для себя. Беда в том, что при достаточной сложности алгоритма его применение на реальных текстах на естественных языках непредсказуемо, примерно как результат замены "мех" на "бурдюк" в виде "усбурдюкнулся".
Еще одна фишка с алгоритмом в том, что на вход должна подаваться структурированная и правильно отобранная информация. Потому что если на входе мусор, то на выходе будет он же. А создатели алгоритмов фейсбука не могут в принципе правильно структурировать инфу на входе — потому что это тексты на естественном языке, а обработчик не умеет это правильно опознавать. Поэтому алгориты фейсбука не могут распознать иронию, сарказм, игру слов, контекст цитаты и прочее.

[spaniel90100.livejournal.com]

А также потому, что видимо, они это всё отслеживают в переводе на английский, и никто не гарантирует, что перевод правильный.

[katherine-kinn.livejournal.com]

Я думаю, матерные слова и слова-триггеры они зарядили просто списком, но простая замена кириллических букв на латинские позволяет безнаказанно написать все, что угодно.

[livelight]

Это пока кто-то персонально не пожалуется модератору. А тот может и включить ваш латинизированный эвфемизм в список стоп-слов для всех.

[katherine-kinn.livejournal.com]

Это я учитываю. Но я ж и не крою матом всех подряд, и матом не разговариваю в сообществах.

[prokhozhyj.livejournal.com]

Ну так для программиста и для машины это ясная пошаговая инструкция. А вот показывать её всякой там публике, не говоря уже о конкурентах, никто не собирается, и для публики получается вот это самое. Но то, что это всё устраивает некий алгоритм, публика наслышана.

[2worldscollide.livejournal.com]

Непрозрачность, неподконтрольность или даже нелогичность алгоритма не отменяют факта его существования.

Совершенно не вижу противоречия.

[pascendi.livejournal.com]

Есть два объяснения:

1. Да, как Вам уже сказали, алгоритм прост и прозрачен, только от вас его скрывают.

2. Фейсбук и прочие используют алгоритмы, основанные на нейросетях. А там все достаточно сложно, потому что нейросети модифицируют алгоритмы, которые в них заложены, и практически сразу такой алгоритм становится неизвестным даже для создателя нейросети (это немного неточно, потому что в нейросетях есть набор "весов" для принятия решений, которые, собственно, изменяет сама сеть, и есть алгоритм в строгом смысле, который управляет тем, как эти "веса" формируются и меняются, но уже через пару шагов только нейросеть сама знает, как именно она работает).

Ну и третье: если мы говорим про Фейсбук, то там сидит чертова уйма цензоров, которые много что меняют руками, и тут уж ни о каком алгоритме речи не идет.

Илон Маск, когда купил Твиттер, обнаружил, что таких цензоров — 80% от всего штата. Ну, он их и разогнал в первые же дни.

[sudzume.livejournal.com]

Алгоритм может быть непрозрачным из-за своей сложности,
особенно если его разрабатывал коллектив авторов.
А может быть защищён от недобросовестного потребителя.
Если потребитель точно знает, как работает алгоритм,
он может искажать его в свою пользу.
Например, накручивать просмотры, если известно,
что алгоритм поощряет картинки про бедных котиков.

[aywen.livejournal.com]

Если ты повар в ресторане, ты готовишь суп строго по рецепту, рецепт — алгоритм. Но если ты посетитель и тебе принесли суп, ты можешь гадать, положили ли в него какую-то травку.

Современные роботы с машинным обучением, могут ещё и не получать детективы в явном виде. Вместо этого есть какие-то ограничения и целевые показатели, алгоритм выбирается в процессе.

[once-for-all.livejournal.com]

Потому что используемые алгоритмы это intellectual property и за разглашение могут в суд попасть

[p_govorun.livejournal.com]

Таким образом, неотъемлемым свойством алгоритма является его прозрачность и познаваемость. Ну, это то, что у меня в голове застряло с девятого класса.
Ну, наверное вам в девятом классе говорили, что мир вообще познаваем. (А те, кто не желает познавать мир — получат двойку.)</p>
На самом деле познаваемость алгоритма — вопрос сложный. Детский пример: считалка — это алгоритм. Но угадать заранее, на кого покажет считалка, никак невозможно. Взрослый пример: Obfuscated C contest — соревнования по написанию нечитаемых программ. Пример из прошлого: вся история подпоручика Киже — результат работы бюрократических алгоритмов.
Сложные алгоритмы, написанные как попало многими авторами, никто из которых не отвечает за своё творение, естественно, дают непредсказуемые результаты. Потом фейсбук применяет эти результаты к реальным людям. Результат вы наблюдаете.

[mashaaaa.livejournal.com]

Позвольте, как это нельзя угадать, на кого укажет считалка? Перенумеровать игроков, посчитать кол-во слогов в считалке, поделить на кол-во игроков, остаток — это и будет номер игрока. Ну разве что слоги могут быть не собственно слогами, а чуть более хитрой комбинацией растягиваемых и проглатываемых гласных, но обычно на практике известно, как в данной компании принято произносить.

[p_govorun.livejournal.com]

Вот. И с прочими алгоритмами точно так же.

По счастью, мы взрослые, и с детской считалкой разобраться можем. А вот с алгоритмами фейсбука уже сложнее.

[livelight]

Где-то там хитро ухмыляется Иосиф Флавий

[hairless-heart.livejournal.com]

Ну а если чуть сложнее? Скажем, считающий может перебирать игроков по кругу одного за другим или делая пропуски в зависимости от того, с какой буквы начинается имя того, на кого он в последний раз показал. Вполне может быть, что результат выполнения такого алгоритма можно будет выяснить только одним образом — выполнив его. Такое бывает сплошь и рядом.

[teak]

Важно понимать, что в фейсбуке действительно ещё алгоритмы, там всё чётко описано специально обученными людьми, просто этих алгоритмов очень много и с ними нельзя ознакомиться, не работая в фейсбуке. Когда для тех же целей начнут применять ИИ, ситуация заметно усложится: это вообще будут не алгоритмы, ничего там не будет никем расписано по шагам, и ответить на вопрос "почему" не смогут даже владельцы фейсбука. Вот это действительно станет настоящий чёрный ящик.

[smirnfil.livejournal.com]

Помимо уже описаных проблем контроля(это я знаю как работает алгоритм, а вам не скажу) есть гораздо более фундаментальная проблема разница между описанием и результатами. У алгоритма довольно несложно описать, что именно он делает(какие цифры складывает, куда записывает, те самые маленькие шажки о которых вы говорите), но ответ на вопрос, а что данный алгоритм будет давать на выходе это на порядки более сложная задача. Нейросети отличный пример — можно довольно легко объяснить как работает chatgpt. Что с чем складывает, откуда берет числа, в какую память записывает, но очень сложно пользуясь этими знаниями предсказать как он ответит на конкретный вопрос. И беда в том, что это не особенность нейросетей(как говорят некоторые комментаторы) это фундаментальное свойство алгоритмов — проблема останова показывает, что даже для примитивной машины Тьюринга ответить на очень простой вопрос(закончится программа или нет) очень сложно(нельзя написать алгоритм, который это проверит).

[mikell.livejournal.com]

А если в алгоритме указано "из 100 постов, удовлетворяющим критериям, выбрать 10 штук генератором случайных чисел"?

Предположим, что это истинный генератор, например на основе теплового шума.

[mashaaaa.livejournal.com]

Так программист фб знает и понимает все шаги. Он их сделал максимально понятными для компьютера.
А пользователям фб о них не рассказал.

[mashaaaa.livejournal.com]

Но вообще да, интересно, через какое время слово "алгоритм" будет в русском языке употребляться как синоним "НЕХ" (впрочем, по моему наблюдению, так обычно употребляют сейчас множественное число: с загадочной интонацией произносят: ну, алгоритмы...), а значение "последовательность четких шагов" будет иметь в словарях помету "устар.".

[nasse.livejournal.com]

Через "юзеру нужна только кнопка Сделать Зашибись".

PS Аббревиатуру НЕХ не знала. Теперь знаю.
Сначала долго думала, при чем тут hex

[livelight]

Патамушта там обязательно должны быть точечки над Ё!

[subbotin-alex.livejournal.com]

Алгоритм должен быть прозрачным для его создателя. А для того, кто наблюдает работу алгоритма со стороны, он вполне может оказаться "чёрным ящиком", в котором чёрт знает что происходит. ))

[lu-crecia.livejournal.com]

Не про фейсбук, но про алгоритмы вообще.

Безо всяких нейросетей может случиться, что ясные и четкие кусочки кода вместе сработают непредсказуемо.

В базах данных есть такая штука, называется триггер. Процедура, которая срабатывает по событию. Например, при удалении записи из одной таблицы, в другую автоматически пишется, что в такой-то момент запись удалили или поменяли.

В плохо организованной базе триггеров может быть навешено как блох на собаке, и срабатывают они с плохо предсказуемым итоговым эффектом. То есть, каждое конкретное действие понятно, но в каком порядке эта конструкция из костяшек домино развалится при какой комбинации воздействий, понять довольно сложно.

Лет 10 назад, когда я занималась базами, разработчики делились на два лагеря, и в одном триггера не использовали вообще, именно из-за таких эффектов. В другом считали, что сдуру можно сломать что угодно, а с умом можно использовать что угодно, но опасность не отрицали.

[aantero.livejournal.com]

С тех пор первый лагерь победил, поэтому эффекты, описанные Вами, теперь принято устраивать в вышележащих слоях программы.

[smirnfil.livejournal.com]

Микросервисы вошли в этот чат.

[levtsn.livejournal.com]

Хуже то что в ии это шляпа и для владельца шляпы. "Оно само а как не знаем. "

[woodenfriend.livejournal.com]

не читая каментов. мне кажется, пора бы уже говорить не "алгоритмы", а "поведение". потому как поведение подобных систем, распухших от ограничений и бустеров, набитых некросетевыми прибамбасами, регулируемые всунутыми в неё со всех сторон деньгами, вряд ли описывается понятными хотя бы одному человеку алгоритмами. просто оно же программа, поэтому какое ей поведение. у программ же алгоритм..

[http://users.livejournal.com/_glav_/]

это вопрос к лингвистам, а не программистам.
такое словоупотребление.

[hansrudel.livejournal.com]

Делегирование ответственности предтече ИИ.

[tervv.livejournal.com]

Никогда не задумывался о том, что оно приобрело второе значение.
Видимо тут такая же ситуация, как с афоризмом « попасть пальцем в небо».
Вероятно не желая и ленясь объяснять что-то, специалисты отбрехивались общей фразой «алгоритм такой», а дальше оно и ушло в народ, который по коммуникативной интонации услышал «хрен его знает».

[kuzia-aka-zmey.livejournal.com]

Причем специалисты к этим алгоритмам отношения не имеющим.

[kuzia-aka-zmey.livejournal.com]

Кроме того что сказали я бы еще добавил так называемую формализуемость проблемной области.

Т.е. например алгоритм готовки борща понятен (даже если и содержит рандомайзеры вроде "по вкусу"), а вот алгоритм поиска какой нибудь песни/фильма которые сейчас зайдут запрашивающему, это уже совсем другой алгоритм (причем запрос будет выражен в виде "что нибудь веселенькое, но без пошлости"). И даже если его написать (рекомендательные сервисы именно такие вещи и пишут) он будет работать не точно и не для всех.

Алгоритмы фейсбука именно такие вот алгоритмы. И да они действительно непрозрачны.

Потому что ответить пользователю что его забанили потому что K19 у него больше 1.1 а N11 меньше чем T*S. все равно смысла иметь не будет. Даже для отвечающего.

[lr-eleran.livejournal.com]

Как неспециалист (который тоже помнит что такое "алгоритм" класса с 7го) поддержу точку зрения,что у этих алгоритмов — разные задачи. И то,что ты запрашиваешь в соцсети, не соответствует задаче этой соцсети по отношению к клиенту\пользователю. Т.е. там задача не "сделать тебе удобно", а ,например, "срубить с тебя денег с помощью рекламы". Ну или "продвинуть определенный контент". Это первое.

Второе — специалисты тут говорят,что нейросеть перерабатывает инфу под себя. В этом случае даже те,кто ее обучают уже не могут знать,что получится в результате.

Третье — большой алгоритм состоит из нескольких малых (как книга из глав). И внося множество изменений (правок) в эти малые части (тем более разными людьми под разные задачи) будем иметь на выходе бардак,мало имеющий общего с первоначальным вариантом.

А так-то, смысл слова "алгоритм" никуда не девается ;)