Внутренняя цензура

[kot_kam]

Френд, публичная персона, перепостил страшилку об опасностях AI, начинающуюся с фразы "Мы все умрем" (ну, практически. 'Literally everyone on Earth will die'). Я не удержался, спросил, неужели он рассчитывал жить вечно. Потом подумал, отправлять не стал, стер. Люди там всерьез переживают, а тут я как этот.

К вопросу о внутренней цензуре. Вот так она и работает. "Придуши своего внутреннего гасконца".

Comments

[kir16.livejournal.com]

Так ведь действительно мы все умрем. И выбора нет.

[kot-kam.livejournal.com]

Вот! А если AI запретят, то, может, еще и обойдется.

[ixtiandra.livejournal.com]

Неприятно, если способ нашего умирания выберет AI.

[efimpp.livejournal.com]

Реально у наших внуков есть шанс жить практически вечно.

[kot-kam.livejournal.com]

Это их проблемы. Я, слава Богу, не доживу. :-)

[vladimir000]

Значит, у нас не будет правнуков

[ermenegilda.livejournal.com]

Нет, думаю, долголетие и очень долгую молодость получит только элита. И будем мы жить, как в книжках про эльфов.

Песня про короля-эльфа: "Мы тебя любим сердечно, будь ты начальник нам вечно". Какие социальные проблемы возникнут в обществе, где долголетие — для немногих, даже думать жутко.

[bigbeast-kd.livejournal.com]

Ну, сама элита, наверняка, именно так и хочет...

Но есть одна проблема.

Чтобы поддерживать должную квалификацию медиков (или техников )) ) обслуживающих элиту необходимы такие же долгоживущие массы. А то нехорошо выйдет — испытали метод А на кжи, получили блестящие результаты, а у джи он вызывает инфаркт, склероз, рак легких и катар

[tervv.livejournal.com]

Давно надо прекращать весь этот балаган

[staerum.livejournal.com]

"Мы" — человечество. Речь-то про это. Каждый конкретный человек готов смириться со своей смертью, но смерть целого порождающего нас (культуры, или, например, биосферы) это проблема другого уровня.

[a-lazar.livejournal.com]

"Наоборот же!"

Со своей конкретной смертью смириться невозможно.
А смерть культуры или биосферы на этом фоне просто небольшая (ну, ладно, большАя, но меньшая) неприятность.

[staerum.livejournal.com]

Если с чем-то неизбежным смириться невозможно значит смирения маловато картина мира проблемная. Но, в общем, да, в основном так и живём.

[a-lazar.livejournal.com]

Проблемной является картина мира, в которой смерть есть, а Воскресения нет.
Если Воскресение есть, то смерть — лишь временное приключение.
Не особо приятное (а может быть и весьма неприятным), но — приключение. Временное.

[finnian-light.livejournal.com]

Можно цитатой:

"The planet isn’t going anywhere... we are! We’re going away! Pack your shit, folks! We’re going away and we won’t leave much of a trace either, thank God for that..."

(c) George Carlin, 1992.

И заметьте, никакого AI. :)

[w-postoronnim.livejournal.com]

У меня такой метод иногда приводит к тому, что произношу (пишу) гораздо более оскорбительную фразу, чем было сначала. То есть, чем сильнее стараюсь не обидеть, тем сильнее обижаю.

[tan-y.livejournal.com]

+1

[kot-kam.livejournal.com]

Я просто промолчал... ;-)

[w-postoronnim.livejournal.com]

Этот дзен мне ещё предстоит отрастить. Ужасное ощущение "слово-не воробей".

[chyyr.livejournal.com]

>Я не удержался, спросил, неужели он рассчитывал жить вечно.

Если я ничего не путаю, Юдковский, автор страшилки, как раз из тех трансгуманистов, которые мечтают жить вечно.

[kot-kam.livejournal.com]

Бедняга...

[a-lazar.livejournal.com]

Как говорил А.С. Пушкин:

"Души (или дави) прекрасные порывы!"

[natusha-st.livejournal.com]

И все душат внутренних гасконцев… а гасконцы — тоже люди, хоть и внутренние, между прочим, очень успокоительные ребята. Пока внутренние гасконцы живы, все не так уж трагично и есть шанс, что мы таки в ближайшее время не умрем.

[snk1965.livejournal.com]

Everyone on Earth will literally die.

[baru-hashem.livejournal.com]

— Доктор, я умру?
— А как же!

[mansikka01.livejournal.com]

Нет. Внутренняя цензура "я не буду это писать, потому что мне прилетит", а не потому что я кого-то этим обижу.

[kot-kam.livejournal.com]

Это, знаете, что совой об пень, что пнем об сову. Причины разные, а сова-то все равно сдохла.

[loki-0.livejournal.com]

Так это же вроде устоявшийся эвфемизм, означающий "умрём скоро, раньше, чем могли бы, и почти одновременно". В ответ на выражение "ездить по ушам" гасконцы не возмущаются тем, что это технические невозможно — и вообще, кто куда поехал?

[julia-monday.livejournal.com]

Вообще не понимаю очередную панику (ну почему последние года три у народа сплошные паники, надоело уже!) Всем этим нейросетям до настоящего интеллекта - как пешком до Луны. Подумаешь, он там составил из разных кусков что-то единое! Это разве интеллект? А свободная воля где?

В общем, людям нравится бояться и паниковать.

[grey-parrot.livejournal.com]

Да там проблема не в свободе воли даже. ChatGPT, который так всех напугал - просто программа, которая умеет _писать_тексты_, так, чтобы они выглядели связно. Умеет еще писать стандартные письма, по шаблонам. Думать, решать логические задачки, он не умеет, вообще. В этом ЖЖ нельзя вставлять ссылки и картинки, поэтому просто загуглите статью на Хабре "ChatGPT провалил тест на ручник".
Но вот серьезное зло от подобных программ всё же может быть. Не от самих программ, а от людей, для которых написанная ими белиберда — это "магия" и "истина в последней инстанции". Как писал недавно кто-то в обсуждении, кажется на Пикабу — попросил он этот чат-бот написать статью на заданную юридическую тему. Бот и написал, со ссылками на законы (с указанием параграфов и пунктов), с цитатами из классиков, со ссылками на работы и даже номерами страниц. Вот только ни таких законов, ни таких цитат классиков в природе не существует! Нейросеть просто обучилась на сотнях тысяч работ, что должны быть отсылки к законам и цитаты из определенных авторов. А текст "законов" и "цитат" нагенерила сама в соответствии с полученным заданием. А выглядит это всё очень убедительно! А проверять у нас народ не привык, да и жизни не хватит — каждую статью в интернете проверять. Или, скажем, инструкцию к лекарству, или описание товара (на маркетплейса нужны миллионы описаний, многие продавцы уже подключили боты к написанию карточек товара и ответам на вопросы покупателей). А CatGPT "врет как дышит".

[julia-monday.livejournal.com]

Но ничто не мешает человеку указать фейковые законы. Или опасность в лёгкости такой задачи для нейросети?

[peggy-s.livejournal.com]

Опасность, ИМХО, в том что человек врет сознательно, когда ему это зачем-то нужно. И в целом мы худо-бедно, но умеем вводить поправку на "тут мне могут и соврать, а тут никаких особых причин мне врать нету". А чат-бот врет непонятно почему и психические механизмы отслеживания вранья не работают.

[varkos.livejournal.com]

про фейковые законы сразу вспоминается сцена в "Законопослушном гражданине"