Алгоритмы и манипулирование: как происходит управление нашими предпочтениями

Небольшое необходимое вступление: 

 Евгений Золотов из Компьютерры закрепил )) словами известные, но не учитываемые большинством пользователей интернета методы и способы манипулирования.

 

Как алгоритмы влияют на жизнь

автор: Евгений Золотов 21 февраля 2017 http://www.computerra.ru/163397/algo/

Вот уже несколько лет в околоайтишных кругах ведётся интереснейший диалог, который всё никак не проложит дорогу к широкой общественности — хоть самым непосредственным образом на судьбы её, общественности, влияет. Объяснить смысл проблемы, а тем более её потенциальные решения, обывателю непросто. Вот только хочет он того или нет, вникать придётся, ибо с каждым годом масштаб последствий увеличивается. Впрочем, простите, что говорю загадками: речь о скрытой роли, которую играют в нашей жизни алгоритмы.

Вообразите самую обычную ситуацию: вы уселись посмотреть кино в онлайновом кинотеатре. И конечно, первое, что видите, запустив приложение на «умном» телевизоре, это список фильмов, которые предположительно должны вам понравиться. Как этот список был составлен? Кинотеатр за время пользования накопил о вас некоторые сведения и теперь делает на их основе предположение-прогноз насчёт ваших вкусов. Например, если в прошлом вы смотрели фильмы ужасов, то и сейчас вам предложат главным образом картины того же жанра. Ну и, конечно, кому-то предложенные ленты понравятся, а кому-то нет. Это нормально. Разработчики алгоритма, угадывающего вкусы зрителя, допускают, что он не всегда окажется прав, но процент «попаданий» оправдывает его применение.

И это лишь один из примеров. Если присмотреться к происходящему вокруг, окажется, что очень и очень многое в нашей жизни определяют или пытаются определять именно алгоритмы. Это они подбирают рекламу, которую вы видите в своём браузере. Они составляют список товаров, которые попадаются на глаза в первую очередь, когда вы заходите в интернет-магазин. Они советуют друзей в социальных сетях. Они на самом деле оценивают заявки на кредит и даже определяют сумму, которой банку в каждом конкретном случае допустимо рискнуть. Они всё чаще фильтруют кандидатов на собеседованиях при приёме на работу. Они помогают полиции «умно» распределять ресурсы, направляя силы туда, где те предположительно будут нужнее всего. Они даже помогли шуту победить на выборах президента Соединённых Штатов — подсказав, какие слои населения будет легче склонить в свою сторону.

Недостатки такого подхода уже просматриваются, но давайте их формализуем. Что плохого в широком применении алгоритмов для решения чисто жизненных задач? Во-первых, алгоритмы не безгрешны. То, что выглядит как беспристрастная математика, на самом деле всего лишь набор правил, сформулированных человеком или (всё чаще) искусственным интеллектом. Цель алгоритма — не сделать человека счастливым, а решить задачу с приемлемой погрешностью или риском. При этом алгоритм всецело зависит от входных данных (которые по умолчанию не могут содержать всего: это лишь потоки информации, описывающие некоторую часть картины), логики (придуманной программистом и известной зачастую ему одному; если же логика придумана ИИ, то и вообще никому не ясна), вероятностей (слепого случая). Вот почему алгоритмы могут сбоить, выдавая результаты, оторванные от жизни или неприменимые в ней.

Но — и это во-вторых — несмотря ни на что, алгоритмы всё чаще влияют на нашу жизнь сильно. Хорошо если речь всего лишь о странном банере или неудачно рекомендованном фильме: вы посмеётесь над ошибкой программы, неверно определившей ваши предпочтения, и забудете. Но что если речь об отказе в кредите на запуск бизнеса? Или об отказе в приёме на работу? Или, как это уже практикуется в США, о длительности срока заключения, рекомендованном судье? Насколько можно быть уверенным, что алгоритм оценил человека правильно и принял правильное решение?

Алгоритмические ошибки в таких ситуациях уже не теория и не редкость: их обнаруживали и обнаруживают много. Например, в той же судебной практике оказалось, что алгоритм, из-за неверно расставленных акцентов во входных данных, склонен переоценивать риск рецидивизма со стороны темнокожих. Равно и в финансовой сфере клиентам, которым не повезло родиться в «цветной» семье, присваивался несправедливо низкий кредитный рейтинг.

Всё это заставляет задаться вопросом: насколько общество вправе доверять алгоритмам?     И ответ на него, к сожалению, непростой и неприятный.

Начать с того, что обратного пути нет. От алгоритмов уже не удастся отказаться, потому что живём мы в информационную эпоху, когда информации слишком много, чтобы её могли обрабатывать только люди. Но значит нужны какие-то ограничения, которые помогли бы минимизировать потенциальный вред. И вот именно вокруг них сейчас и кипит самый жаркий спор.

Где-то алгоритмический рынок пока совершенно дикий: как в России, где у гражданина и потребителя попросту нет права ни оспорить алгоритмическое решение, ни даже узнать, что решение было принято алгоритмом. Но к примеру британцы гордятся тем, что их судебная система резервирует за гражданином право потребовать через суд отменить принятое алгоритмом решение (если оно значительно влияет на жизнь человека) и потребовать повторно обработать те же данные человеком, чтобы исключить возможные машинные огрехи.

Дальше же всех шагнул Евросоюз, в котором с 2018-го года вступает в силу так называемое «право на объяснение». Смысл очень простой, но в этом и коварство. Гражданин ЕС вправе потребовать не просто пересмотреть, а и объяснить, как было принято то или иное алгоритмическое решение. Идея выглядит логичной и даже прогрессивной, но на деле реализовать её будет чрезвычайно трудно. Попробуйте-ка объяснить человеку с улицы процедуру оценки кредитного рейтинга или диагностики рака, проводимой ИИ! А что если алгоритм был разработан не человеком, а машиной — и теперь его не понимает вообще никто? Так что право на объяснение скорее всего останется нереализованным.

Отсюда — мрачный прогноз: мы движемся прямиком к «обществу чёрного ящика», где алгоритмы будут играть всё возрастающую роль, но мы контролировать их всё меньше. И решение напрашивается только одно: законодательно запретить применение алгоритмов в некоторых сферах, где их ошибки могут навредить людям неадекватно сильно. Да, это шаг назад по воображаемой ступени технической эволюции. Но что поделаешь, если компенсировать токсический эффект чрезмерной сложности больше нечем?

Ну и несколько комментариев про дополнительные аспекты  проблемы:

• Ну автор поздно прозрел, т.к. еще в глубокой древности Шекспир сказал, что "вся наша жизнь - игра...". А игра есть не что иное как набор алгоритмов. Поэтому перефразируя, можно сказать: вся наша жизнь - алгоритмы ;)

• Алгоритм - это система правил, пошаговая инструкция.

Пока иной рабочей системы основанной на анархии или каком либо генераторе случайных чисел или иных квантовых эффектах нет. Придется смирится с тем, что есть.

• а как же быть с нейросетями?
  это еще не интеллект, но уже и не алгоритм...

Чем опасны «умные» электронные помощники

ТО, НА ЧТО НАДО ОБРАТИТЬ ВНИМАНИЕ!

 ....что было произнесено после кодового слова, в том числе и фоновые шумы (речь рядом находящихся людей, звук телевизора и т.п.), сохраняется не просто в память устройства, а передаётся на компьютеры компании Amazon, где хранится годами!
Пользователю позволено просматривать коллекцию собранного на него «компромата», но как именно её использует Amazon и для чего и как долго хранит — вопросы, на которые пока нет ответов. Так уж заведено у современных интернет-компаний: они собирают любую информацию о своих клиентах, подшивают её к персональному «досье», и хранят бессрочно, в надежде, что однажды пригодится.
«Умные» вещи таят в себе риск: даже самая привычная вещица, став «умной», начнёт собирать и передавать информацию о хозяине...
************************
Глобальная же проблема в том, что технология распознавания голоса сделала за последние годы слишком большие успехи! И теперь Echo и ему подобные «помощники» обещают стать одним из самых популярных электронных устройств, чуть ли не новым домашним информационным центром, проникнув в каждую квартиру и каждый дом. Кроме того, функцию приёма голосовых команд скорее всего встроят и в другие «умные» вещи, начиная от холодильников и заканчивая лампочками — и они, естественно, тоже станут подслушивать хозяев постоянно.
************************
Как минимум сотрудники Федеральной торговой комиссии (защита прав потребителей, надзор за монополиями) и Министерства внутренней безопасности (аналог наших ФСБ, МВД) прорабатывают сейчас варианты предотвращения расползания проблемы — в том числе в сотрудничестве с производителями. Идея в том, чтобы поставить информационную безопасность во главу угла уже при проектировании таких устройств, а также донести до покупателей понимание риска, который они берут на себя, пользуясь Echo или ему подобными. Ведь собираемые ими данные интересны не только правоохранительным органам, не только компаниям, но и например злоумышленникам всех сортов! Которые, естественно, действуют без судебного ордера и вообще без предупреждения или спросу.
Поскольку интеллектуальные помощники начали проникать и в Россию, нам тоже будет разумно донести до потребителей простые три правила пользования ими. Во-первых, не покупать устройства от малоизвестных производителей (наверняка китайские безымянные фирмочки наладят выпуск подобных продуктов). Во-вторых, защищать их надёжными паролями. В-третьих, не лениться регулярно обновлять программное обеспечение, если такая возможность предусмотрена.
Да, это потребует усилий, но стоит помнить, что при неправильной эксплуатации «умный» электронный помощник способен навредить не только хозяину, а и близким людям. И если покупатель не готов о нём заботиться, если не понимает рисков, лучше такую вещь не заводить вовсе.
Источник: http://gosvopros.ru/territory/razbitye-okna/echo/
© Gosvopros.ru

Изменившаяся реальность приводит к проблемам с памятью...и не только с памятью

С каждым днем все больше людей жалуется на проблемы с мозговой деятельностью — на все возрастающую рассеянность (т.е. невозможность концентрировать свое внимание, собираться с мыслями для решения каких-то задач), на сложности с запоминанием информации, на физическую невозможность читать большие тексты, не говоря уже про книги.

И просят дать им что-нибудь для улучшения мозговой деятельности в целом и памяти в частности. Причем, как это ни парадоксально, данная проблема характерна не только и не столько для пожилых людей, ослабевать мозгами которым, вроде как, «положено по возрасту», сколько для людей среднего и моложе среднего возраста. При этом многие даже не интересуются, почему так происходит — автоматически списывают это на стрессы, усталость, нездоровую экологию, на тот же возраст и т.п., хотя все это даже близко не является причиной. Среди моих пациентов есть те, кому далеко 70, но кто не имеет вообще никаких проблем ни с памятью, ни с мозговой активностью. Так в чем же причина?

 

 

А причина состоит в том, в чем, несмотря ни на какие доводы, никто, категорически, не хочет отказаться от, так называемой постоянной, круглосуточной «подключенности к информации». Другими словами, ускоренная утрата Ваших мозговых функций началась в тот самый знаменательный день, когда Вы решили быть постоянно «на связи». И нет никакой разницы — вынудила ли Вас к этому служебная необходимость, изнывание от безделья или элементарная боязнь быть «не на уровне», т.е. боязнь прослыть белой вороной, чудаком в среде себе подобных.

 

Еще в 2008 году было известно, что среднестатистический пользователь интернета прочитывает не более 20% текста, размещенного на странице, и всячески избегает больших абзацев! Более того, специальные исследования показали, что человек, постоянно подключенный к сети, текст не читает, а сканирует как робот — выхватывает отовсюду разрозненные куски данных, постоянно перескакивает с одного места на другое, а информацию оценивает исключительно с позиции «поделиться», т.е. «А можно ли это «откровение» кому-нибудь переслать?». Но не с целью обсудить, а, главным образом, с целью вызвать эмоции в виде анимированной «отрыжки», сопровождающейся короткими репликами и возгласами в СМС-формате.

В ходе исследований выяснилось, что страницы в интернете, как уже говорилось, не читаются, а бегло просматриваются по шаблону, напоминающему латинскую букву F. Пользователь сначала считывает несколько первых строк текстового содержимого страницы (иногда даже полностью, от начала до конца), затем перескакивает на середину страницы, где считывает еще несколько строк (как правило, уже лишь частично, не дочитывая строки до конца), а затем быстро спускается к самому низу страницы — посмотреть, «чем дело кончилось».

 

Красным — зоны, где внимание читателя задерживается дольше всего.
Желтым — зоны беглого просмотра. Синие и серые области не читаются вообще

Поэтому наиболее эффективным способом подачи информации рядовому интернет-пользователю является отображение информации в виде перевернутой пирамиды (т.е. согласно принципу «чем ниже, тем меньше») с обязательным выделением ключевых слов (чтобы потребители информации понимали, что важно, а что — не очень) и раскрытием не более одной мысли за абзац. Только так можно задержать внимание на странице максимально долго. Если же по мере спуска вниз по странице плотность информации не убывает или, того хуже, увеличивается (как, например, в этой статье), то на таких страницах задерживаются лишь единицы.

 

Мое личное мнение такое:

Интернет — это реальный наркотик. А что такое наркотик? Это совершенно бесполезная вещь, без которой любой человек может прекрасно жить до тех пор, пока не попробует. А когда попробует, то зависимость возникает пожизненная — наркомания не лечится.

На проблемы с восприятием информации жалуются люди всех рангов и специальностей — от высококвалифицированных университетских профессоров до сервисных работников по обслуживанию стиральных машин. Подобные жалобы можно особенно часто услышать в академической среде, т.е. от тех, кто по роду деятельности вынужден плотно и ежедневно общаться с людьми (обучать, читать лекции, принимать экзамены и т.д) — они сообщают, что и без того низкий уровень навыков чтения и восприятия информации у тех, с кем им приходится работать, год от года падает все ниже и ниже.

Большинство людей испытывает колоссальные затруднения при чтении больших текстов, не говоря уже про книги. Даже блог-посты размером более трех-четырех абзацев уже кажутся большинству слишком трудными и нудными для восприятия, а потому скучными и не заслуживающими даже элементарного вникания. Вряд ли найдется человек, который не слышал бы популярного сетевого высказывания «слишком много букв — не осилил», которое обычно пишут в ответ на предложение прочитать что-то длиннее пары десятков строк. Получается замкнутый круг — писать много нет смысла, поскольку это почти никто не будет читать, а сокращение объема передаваемой мысли приводит к еще большему скудоумию не только читателей, но и писателей. В результате имеем то, что имеем — массовое отупение.

Даже люди с хорошими (в прошлом) навыками чтения говорят, что после целого дня метания по интернету и лавирования среди десятков и сотен электронных писем, они физически не могут начать даже очень интересную книгу, поскольку чтение уже одной только первой страницы оборачивается настоящей пыткой.

 

Чтение попросту «не идет», прежде всего, потому, что:

а) не получается заставить себя перестать сканировать текст, отыскивая в нем ключевые слова

б) совершенно не усваивается сложный синтаксис, свойственный большинству классических, высокосодержательных или наукоемких произведений, который полностью отсутствует в обмене телеграфной «СМС-отрыжкой».

В результате этого одно предложение приходится перечитывать по нескольку раз! Наиболее откровенные люди так прямо и говорят: я противен/противна сам(а) себе.

Но это еще далеко не все. Из-за постоянной подключенности к интернету резко ухудшаются такие навыки человека, как способность возвращаться к уже некогда осмысленной информации, анализировать прочитанное и подключать воображение. Еще хуже то, что в 80% случаев люди ходят в интернет за сомнительными развлечениями, либо черпают оттуда информацию, имеющую не то что нулевую, а отрицательную культурную ценность.

При этом большинство людей (особенно молодых) привязаны к своим гаджетам настолько, что при угрозе оказаться отключенными от сети в течение хотя бы одного дня испытывают не только психическую подавленность, граничащую с паникой, но и реальную физическую ломку, напоминающую наркотическую. Не верите? А ну-ка выключите свою мыльницу СОВСЕМ и попробуйте прожить без нее хотя бы 2-3 дня.

Есть мнение, которое я вполне разделяю, что способность эффективно воспринимать сложные тексты, читать сложную литературу вскоре станет элитарной привилегией, доступной только особой касте людей. Идея эта не нова, поскольку еще Умберто Эко в романе «Имя розы» предлагал пускать в библиотеку только тех, кто умеет и готов воспринимать сложные знания. А все остальные будут в состоянии читать лишь вывески да интернет.

Короче говоря, никакие таблетки, никакие пищевые добавки, никакие диеты, никакие мозгоправы и т.п. не способны остановить деградацию мозга. Остановить ее может только одно — прекращение поступления в систему обработки всевозможного информационного мусора и ежедневная загрузка мозга так называемой «полезной информацией». Процесс этот чрезвычайно сложный, а для многих людей так и вовсе невыполнимый. Для многих поезд, как говорится, уже ушел.

 

Ещё раз, коротко:

1.Гаджеты, обеспечивающие Вашу постоянную подключенность к информации/интернету — смартфоны, айпады и пр., без которых Вы теперь даже в туалет сходить не можете, — делают Вас практически дебилом с вялым, апатичным, с еле соображающим мозгом, который не способен думать и анализировать. Но, как и всякий наркоман, Вы, конечно же, убеждены в обратном — в том, что эти мыльницы делают Вашу жизнь нереально яркой, насыщенной, удобной и т.п., а Вас лично — «сильно продвинутой личностью», которая всегда в курсе всего.

2.Благодаря этим устройствам, в Ваш мозг непрерывным потоком круглосуточно поступает всевозможный мусор, который загаживает Ваш «бортовой компьютер» настолько, что вы годитесь лишь для выполнения самой примитивной, низкоквалифицированной работы. Вы не в состоянии ни связно говорить, ни писать, ни читать — Ваша речь косноязычна и наводнена словами-паразитами. Рассказывая кому-то о чем-то, Вы с трудом подбираете нужные слова, а слушая кого-то — быстро теряете нить разговора и начинаете скучать и зевать. Писать Вы не можете, поскольку практически в каждом слове начинаете делать ошибки, а как использовать знаки пунктуации — не знаете даже приблизительно. Зато Вы круто делаете сэлфи (и прочие мусорные фото) и стучитесь к кому-нибудь в Viber или WhatsApp.

3.Короче говоря, слушайте плохие новости: мобильную связь нужно использовать только и исключительно в ЭКСТРЕННЫХ случаях. Например, Вы приехали в незнакомый город и не можете найти встречающего — позвонить действительно нужно. Или Вы опаздываете на важную встречу — позвонить реально необходимо, т.е. нужно настроить Ваш гаджет только на приём или передачу необходимой Вам профессиональной и деловой информации. А остальное время Ваш гаджет должен быть ВЫКЛЮЧЕН. Впрочем, я представляю себе, как Вам неуютно от одной только мысли об этом.

4.Нужно быть готовым к тому, что все Ваше окружение Вас, мягко говоря, не поймет — Вам скажут, что Вы с приветом, совсем ку-ку, что у Вас поехала крыша и т.п. Наплевать и растереть. Помните, Вы объект для информационного нападения и вам нужно защищаться. Как говорил президент CBS News Ричард Сэлант: «Наша работа — продавать людям не то, что они хотят, а то, что нужно нам».

5.И, наконец, Вам нужно заново учиться читать книги. Настоящие бумажные книги — понимаете? Не разглядывать часами подслеповатыми глазами свою мыльницу с экраном, а читать книги. Будет тяжело, но Вы попробуйте. Насиловать себя не нужно — в первый день прочитайте полстраницы, на следующий — целую страницу, на третий день — 1,5 страницы и т.д. Учтите, что организм будет всячески этому сопротивляться — будет и тошнить, и ломать, и тянуть заняться чем угодно, лишь бы мозг не напрягался.

Источник: 

---

А.Н. Стацкевич, Деградация мозга // «Академия Тринитаризма», М., Эл № 77-6567, публ.21867, 07.03.2016

http://www.trinitas.ru/rus/doc/0235/002a/02352167.htm