"The social dilemma - документалка Netflix как алгоритмы Фейсбук и Гугл создали 2.8 млрд индивидуальных матриц.
Первый раз такое скажу - но это must see.
Создатели «мира надвинутого на глаза» рассказывают что произошло, когда алгоритмы созданные с одной целью - максимизация прибыли - слишком хорошо обучились удерживать людей у экранов, чтобы показать как можно больше рекламы.
Как Ai уже управляет нашей жизнью не превосходя человека, а просто предельно эффективно используя особенности устройства нашего мозга - в первую очередь социальность. Даже удалив все свои аккаунты в соцсетях или вообще их не заводя - человек все равно не может выйти из матрицы. Слишком большая «площадь охвата».
Как соцсети привели к всплеску подростковых депрессий и самоубийств - и почему это не похоже ни на один из этапов адаптации к прогрессу до этого.
Энциклопедии не меняли содержание статей в зависимости от того кто, где и в какой компании их открывает. Книги не удерживали читателя меняя своё содержание по ходу чтения и реакций на прочитанное. А соцсети делают именно это - каждый видит свою версию мира, а потом поражается, как другие могут приходить к каким то другим выводам - ведь есть «факты» и "все так думают".
Алгоритмы, изначально предназначавшиеся для максимальной прибыли («если вы не платите за пользование продуктом - значит вы и есть конечный продукт») - не умеют и не имеют цели выяснять что «факт», а что фейк. Они каждый день становятся чуть лучше в том, чтобы показывать каждому индивидуальную версию мира, которая составлена из наиболее «вовлекающих» элементов - того что бесит, или «хотелось бы, чтобы это было так».
«Сами по себе инструменты, созданные фейсбуком - это утопия и дистопия одновременно. Они создали возможности как для объединения и процветания - так и для экстремальной поляризации и гибели цивилизации, потому что люди больше неспособны договориться ни о чем. Каждый из них видит свою картину мира. А когда невозможно договориться в принципе о том, что «правда» или «факты» - невозможно решать никакие из общих задач».
Рассказали про эксперимент как алгоритм способствовал убеждению людей, что земля плоская, показывая это сторонникам теорий заговоров.
А затем начали пользоваться в политических целях. Что уже приводит к резне в некоторых странах. И глядя на происходящее на выборах в так называемых «развитых» - прежде всего экстремальную поляризацию и радикализацию всех - можно сказать что немного осталось до гражданских войн и в них.
Призывают начать законодательно регулировать - для чего и как могут использоваться инструменты, созданные чтобы формировать зависимость, провоцируя «эмоциональные качели», создавая каждому его личную матрицу и способные менять в любую сторону по чуть-чуть каждый день.
И даже не важно - вовлечён сам человек или нет. Все его окружение, там где будет находиться под влиянием. Мне понравилась иллюстрация как соцсети влияют на жизнь тех у кого их вроде бы нет.
Что в интересах самих же тех компаний начать регулироваться - пока это ещё возможно. Пока их «продукт» ещё можно вернуть к умению понимать и договариваться. Проблема в их stakeholders (крупных) - требующих прибыли и политического влияния. Когда через соцсети можно легко, быстро и очень дёшево дестабилизировать целые страны в своих коммерческих интересах.
Честно говоря, мне стало легче после подробного разъяснения - что и как именно привело к такой резкой и быстрой радикализации-поляризации, когда мозг человека столкнулся с Ai созданным, чтобы целенаправленно эксплуатировать все его уязвимости: социальность, жажду новизны, эмоциональность - ради максимизации прибыли от показа рекламы. Когда кто угодно может легально заплатить и использовать эти инструменты тщательно выверенного манипулирования - в любых целях.
UPD там есть хорошая мысль, что алгоритм просто мультиплицирует всё, что вбрасывают в сеть люди. Если люди хотят найти своих и общаться, делиться чем-то хорошим - то он будет помогать в этом. А если хотят разобщать людей и создавать ненависть - будет помогать и в этом. И что вопрос как регулировать второе."
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
понравился
Date: 2020-10-03 07:57 am (UTC)"The social dilemma - документалка Netflix как алгоритмы Фейсбук и Гугл создали 2.8 млрд индивидуальных матриц.
Первый раз такое скажу - но это must see.
Создатели «мира надвинутого на глаза» рассказывают что произошло, когда алгоритмы созданные с одной целью - максимизация прибыли - слишком хорошо обучились удерживать людей у экранов, чтобы показать как можно больше рекламы.
Как Ai уже управляет нашей жизнью не превосходя человека, а просто предельно эффективно используя особенности устройства нашего мозга - в первую очередь социальность.
Даже удалив все свои аккаунты в соцсетях или вообще их не заводя - человек все равно не может выйти из матрицы. Слишком большая «площадь охвата».
Как соцсети привели к всплеску подростковых депрессий и самоубийств - и почему это не похоже ни на один из этапов адаптации к прогрессу до этого.
Энциклопедии не меняли содержание статей в зависимости от того кто, где и в какой компании их открывает. Книги не удерживали читателя меняя своё содержание по ходу чтения и реакций на прочитанное.
А соцсети делают именно это - каждый видит свою версию мира, а потом поражается, как другие могут приходить к каким то другим выводам - ведь есть «факты» и "все так думают".
Алгоритмы, изначально предназначавшиеся для максимальной прибыли («если вы не платите за пользование продуктом - значит вы и есть конечный продукт») - не умеют и не имеют цели выяснять что «факт», а что фейк.
Они каждый день становятся чуть лучше в том, чтобы показывать каждому индивидуальную версию мира, которая составлена из наиболее «вовлекающих» элементов - того что бесит, или «хотелось бы, чтобы это было так».
«Сами по себе инструменты, созданные фейсбуком - это утопия и дистопия одновременно. Они создали возможности как для объединения и процветания - так и для экстремальной поляризации и гибели цивилизации, потому что люди больше неспособны договориться ни о чем. Каждый из них видит свою картину мира. А когда невозможно договориться в принципе о том, что «правда» или «факты» - невозможно решать никакие из общих задач».
Рассказали про эксперимент как алгоритм способствовал убеждению людей, что земля плоская, показывая это сторонникам теорий заговоров.
А затем начали пользоваться в политических целях. Что уже приводит к резне в некоторых странах. И глядя на происходящее на выборах в так называемых «развитых» - прежде всего экстремальную поляризацию и радикализацию всех - можно сказать что немного осталось до гражданских войн и в них.
Призывают начать законодательно регулировать - для чего и как могут использоваться инструменты, созданные чтобы формировать зависимость, провоцируя «эмоциональные качели», создавая каждому его личную матрицу и способные менять в любую сторону по чуть-чуть каждый день.
И даже не важно - вовлечён сам человек или нет. Все его окружение, там где будет находиться под влиянием.
Мне понравилась иллюстрация как соцсети влияют на жизнь тех у кого их вроде бы нет.
Что в интересах самих же тех компаний начать регулироваться - пока это ещё возможно. Пока их «продукт» ещё можно вернуть к умению понимать и договариваться.
Проблема в их stakeholders (крупных) - требующих прибыли и политического влияния. Когда через соцсети можно легко, быстро и очень дёшево дестабилизировать целые страны в своих коммерческих интересах.
Честно говоря, мне стало легче после подробного разъяснения - что и как именно привело к такой резкой и быстрой радикализации-поляризации, когда мозг человека столкнулся с Ai созданным, чтобы целенаправленно эксплуатировать все его уязвимости: социальность, жажду новизны, эмоциональность - ради максимизации прибыли от показа рекламы.
Когда кто угодно может легально заплатить и использовать эти инструменты тщательно выверенного манипулирования - в любых целях.
UPD там есть хорошая мысль, что алгоритм просто мультиплицирует всё, что вбрасывают в сеть люди. Если люди хотят найти своих и общаться, делиться чем-то хорошим - то он будет помогать в этом. А если хотят разобщать людей и создавать ненависть - будет помогать и в этом.
И что вопрос как регулировать второе."