[Нил Эфферсон]

FastCompany собрала очень важную историю, как технологические компании в США и Канаде потихоньку строят частный вариант китайской госсистемы социальных баллов.

В Китае, как вы, очевидно, уже знаете, от таких баллов зависит вся ваша жизнь - в какую школу пойдут ваши дети и сможете ли вы перемещаться самолетами. Баллы начисляются или вычитаются за посты в соцсетях, курение, несвоевременную оплату кредита и т.д.

Американские примеры пока такие – повышение стоимости страховки за фото с медведем в соцсетях, пожизненный бан через систему распознавания лиц в куче ресторанов и баров за “плохое поведение”, пожизненный бан без объяснения причин в Uber и Lift, что фактически оставляет без такси вообще.
Страшнее всего, что такие баны практически невозможно оспорить – поскольку это частные компании и никому ничем не обязаны. Аналогичный пример в России, думаю, помните – Аэрофлот безапелляционно лишил Алешковского платиновой карты за твит о съехавшей голове гендира.

FastCompany, конечно, несколько нагнетает, но реально по делу – это конкретные будущие риски для каждого из нас.

Статья FastCompany- тут.
Источник - тут.

@темы: cyberpunkisreal

Comments

[Papa-demon]

Есть такая серия в Черном Зеркале, но я не думала, что мир так быстро скатится к этому.

[Нил Эфферсон]

Papa-demon,
Черное Зеркало вообще смотреть страшновато, потому что там даже не про будущее, а про настоящее

[NeoSculd]

Ну с другой стороны... Страховые компании всегда жестили и всегда копали под клиентов. Не хочешь, чтобы тебя перестали пускать в рестораны и бары, - веди себя нормально, это не так уж сложно. С таксистами тоже смешно, ну не повезёт тебя Uber - повезёт частник или другая служба. Вот по поводу школ и работы - это да, уже страшнее, хотя опять-таки, может, я безбожный оптимист, но плюсы в такой системе тоже вижу

В ситуации с Алешковским я полностью на стороне "Аэрофлота". Не нравится гендир компании настолько, что ты, будучи медийной личностью, с табуретки называешь его поехавшим, - ну и не пользуйся её услугами, чего такую истерику устраивать из-за того, что ты перестал для них быть ценным клиентом? Я ещё понимаю, они бы были полными монополистами или жизненно важные услуги оказывали, так нет же. Меня бесят зажравшиеся товарищи, которые считают, что они не обязаны к сотрудникам компании уважительно относиться, зато те обязаны их обслуживать и облизывать, потому что они же деньги плотют. Буэ.

[StarpunkD]

Это конечно пипец антиутопия. Получается, что одна твоя ошибка может стоить комфорта всей жизни! Но это же в тысячу раз усиливает невротическое напряжение от любого действия вовне! Это ж капец самый настоящий... Надеюсь, все же эти штуки рано или поздно будут отрегулированы государством и оспорены в судах.

[Нил Эфферсон]

NeoSculd, плюсы, конечно, есть, просто и минусов хватает. Это как всегда: не бывает так, чтобы на 100% сработало. Бывают обидные ошибки.
Автор поста не предрекает апокалипсис, просто замечает, что просто вот появился еще один риск. Даже несколько рисков. Проблема в реализации и человеческом факторе, как всегда.

Например. В общем и целом, все отлично работает. А представь, что юный хакер решил повеселиться и взломать эту систему. Может, сервер с записями о клиентах находится в ресторане, который он решил просто так выбрать целью. И вот, пожалуйста, ты не можешь попасть в свой любимый ресторан, потому что у тебя пожизненный бан за плохое поведение - хотя ты всегда вела себя прилично! А потом эти ошибочные сведения переносятся куда-нибудь... ну скажем, в другую страну. В сервера на курорте. И так далее. Ты, конечно, можешь и не попасть под действие этого пранка. А можешь попасть. Гарантий нет.

Те же уйгуры в Китае - печальный пример.

И то, что гарантий нет, повышает, как сказал StarpunkD, ту невротичность.
Или нью эйдж с психотерапевтами спасут людей, или все превратятся в хикикомори на попечении у машин. Вот как Матрица победила на самом деле.
Так что возможность апелляций в судах - это хорошая штука.

[StarpunkD]

Нил Эфферсон, про хикикомори это вы прям как с языка сняли у меня. Я ещё вспомнил фильм "Суррогаты" с Брюсом Уиллисом. Походу к тому и идем. Сам фильм по сюжету так себе и очень проходной, но в свое время сильно меня ужаснул показанным там миром. И видимо не зря.

[NeoSculd]

Нил Эфферсон, моего прадеда на год за решётку бросили по лживому доносу безо всяких доказательств. Не было ни этих ваших интернетов, ни социальных рейтингов - был только сосед, которому прадед очень сильно не нравился. Плюс во все времена преступники подделывали подписи, выдавали себя за других людей, подбрасывали улики невиновным и т.д. Так что для меня "но ведь преступники могут этим воспользоваться" не аргумент в пользу того, что систему внедрять не нужно: преступники на то и преступники, что они берут хорошие вещи и обращают их во зло. Я вообще согласна с Россом Скоттом: какую бы замечательную систему общественного устройства ты ни придумал, всегда найдётся множество социопатов, которые начнут злостно её эксплуатировать в своих интересах и извращать до полной неузнаваемости. И вот возможно ли придумать стопроцентную защиту от мудаков - кто знает. Скорее всего нет.

Судебную апелляцию, мне кажется, имеет смысл внедрять уже тогда, когда эта практика станет повсеместной, а пока она всё же остаётся на усмотрение отдельных компаний. И как минимум нужно: а) мгновенно уведомлять человека о том, что он попал в чёрный список, и о том, почему; 2) заставлять организации, которые этот бан отвешивают, предоставлять доказательства. Хотя в случае со вторым получается, что клиент должен дать согласие на видео/аудиозаписи обслуживания, на разглашение тайны переписки для предъявления её в качестве доказательств и т.д. Но с другой стороны, eh, за нами в любом случае следят, какая разница.

[Нил Эфферсон]

NeoSculd,

И как минимум нужно: а) мгновенно уведомлять человека о том, что он попал в чёрный список, и о том, почему; 2) заставлять организации, которые этот бан отвешивают, предоставлять доказательства.

вот с этим да, согласен

мне кажется, возможно найти какое-то решение, помимо такой системы. не знаю, правда, какое.
может, идеалистическое - чтобы в принципе не было таких соседей и таких хакеров)) просто не нужно чтобы было людям совершать такое. но это настолько утопично, что сразу нет, бгг.

[NeoSculd]

Нил Эфферсон,

может, идеалистическое - чтобы в принципе не было таких соседей и таких хакеров)) просто не нужно чтобы было людям совершать такое. но это настолько утопично, что сразу нет, бгг.

Не, это мы попрём против своей природы хД Я думала, может, мы сможем изолировать и истребить ген мудачизма, но потом поняла, что жёсткость, изобретательность, агрессия, зависть, лень - всё это не абсолютное зло само по себе, всё это можно оборачивать на пользу себе и другим.

Вот если бы мы могли перепоручить правосудие абсолютно беспристрастным машинам, которые при этом учитывают нюансы контекста преступления и соразмерности наказания...

[Нил Эфферсон]

NeoSculd, дааааа, это получится "Особое мнение" плавали знаем!
все машины можно взломать! это первое, что попытаются сделать, если перепоручат правосудие машинам.

[NeoSculd]

Нил Эфферсон, В "Особом мнении" все полагались на людей-пророков и арестовывали преступников тоже люди, эт не то Машины можно взломать, судей можно подкупить, свидетелей можно убрать, улики можно фальшивые подбросить - как бы да, ни одна система не будет неуязвимой. По крайней мере, факт взлома гораздо проще доказать и пересмотреть решение

[Нил Эфферсон]

NeoSculd, хмммм! факт взлома проще доказать.. а если машина сама себя взломала? в Нейроманте ИИ стоял за всей этой кутерьмой))

[NeoSculd]

Нил Эфферсон, это уже отдельная тема Ну по идее, если появится конкурирующий ИИ в судебной системе, придётся запустить вирус и грохнуть их всех, а потом своего запустить заново с удвоенной защитой
К тому же, в "Нейроманте" таки собственно хакерством занимался человек, а ИИ только руководил (причём с подачи тоже человека опять-таки). Страшнее вариант, как в Deus Ex, когда один ИИ тупо сожрал другого и они превратились в третьего...

[Нил Эфферсон]

NeoSculd, ладно! переспорил!