Искусственный Интеллект и социальные нормы

s.t.> Если статистически машина принимает более верные решения, что делать?
А ты попробуй статистически предсказать успех/неуспех шпионских операций. Нет статистики по успешным. И с кадровиками так же. Есть статистика по принятым. Нет статистики вообще по непринятым. И возникает видимость, что всё удачно (а у шпионов — всё провально). Что неверно.

Татарин> А если он будет считать, что прав? А если эту правоту поддержат программисты/владельцы, и с их точки зрения всё верно?

Что значит "он будет считать"? Он может считать вместе с программистами все, что угодно. Но есть ПДД и есть факт - в моем случае - несрабатывание системы, которое легко проверяется. Поэтому все, что он в этом случае считает, могло/было справедливо засунуто в его электронную "задницу".

Татарин> Что бы ты сделал, если бы RFID-таблетка бы исправно срабатывала, когда ты пытаешься доказать невиновность, но периодически не срабатывала бы по жизни?

А как такое может быть? Я не встречался за всю жизнь с вещами, которые настолько избирательно бы не работали. Ну, чтобы ещё и при нескольких перепроверках - теор.вер. тут, как мне кажется, кровавыми слезами ревет.

Татарин> Ну, если ошибка была бы глубже, совершенно неочевидной и проявлялась бы в редких случаях (а то и вовсе только и именно в твоём случае)?

Ну, вроде как во всех все сомнения трактуются в пользу обвиняемого, нет?
Если ошибка неочевидна, как к оценке ее можно применить однозначные примитивные критерии? Да еще без возможности оспорить такое решение? Нет, чисто технически можно, конечно, но таких удолбищных систем никто вроде не конструирует и не планирует.

Татарин> Тут реально возможна ситуация как в анекдоте про бога, который является к невезучему и объясняет ему - "не нравишься ты мужик, просто не нравишься".

Это анекдот с совершенно антропоцентричным взглядом, а потому не может отражать Бога (даже в чисто философско-описательном смысле, как идею).

Татарин> Но с ИИ и моральностью ещё хуже.

Зато с четкостью критериев, ИМХО, все очень хорошо. Как доказывания вины, так и невиновности со стороны объекта. Любые неточности или неоднозначности - при невозможности их рассмотрения - могут и должны трактоваться в пользу объекта.

Татарин> В твоей ситуации а)ты увидел, что тебе пришёл штраф, и б) штраф был достаточно велик, чтобы ты пошёл его оспаривать.

Нет, он был совсем невелик. Что-то около 50-60 долларов суммарно, за несколько проездов толла за какой-то период времени. Я легко бы мог его заплатить и забыть. Меня просто удивил сам факт такого штрафа - я штрафы КРАЙНЕ редко получаю, и я пошел его оспаривать из принципа, т.к. знал, что плачу за проезд системе и оштрафован НЕСПРАВЕДЛИВО.

Почему так? Потому что система не имеет ресурсов отслеживать более мелкие правонарушения, а единственный способ штрафовать тебя - присылать счета.

А зачем ей отслеживать другие нарушения? Она однозадачна и отслеживает только один вид нарушений - проезды через толл без оплаты. Совершенство или несовершенство других систем тут побоку.

Татарин> Представь себе, что ИИ заметил твоё неуверенное торможение, сообщил ИИ страховой компании, машина пересчитала вероятности, и твоя страховка выросла на 0.1%.

ИИ может, конечно, это отследить. Вопрос тут опять в критериях и здравомыслии тех, кто эти критерии в систему заложит. Во-первых, ИИ может и не будет видеть, что могу увидеть я за рулем. Торможение на разных поверхностях, например, производится по разному: на сухой так, на мокрой может чуть иначе, а при наличии глубоких луж вообще по-третьему. Мы позволим закладывать в ИИ критерии кому - водителям или детсадовцам? Во-вторых, я мог увидеть что-то, чего могут не увидеть сенсоры автомобиля. Это же не только выскочивший прямо перед машиной зайчик или ребенок, а, например, скапливающаяся впереди на дороге толчея из автомобилей - кто ж тут резко тормозит-то? Или, например, водитель проверял тормоза после проезда через лужу?

Событие со столь неоднозначными вариантами причин не может трактоваться однозначным образом. Да еще и с такими серьёзными последствиями. Любой организатор системы это понимает.

Татарин> Тебя никто даже не уведомит об этом - событие слишком малО.

Почему? Например, мне биллинги по электронным операциям или банковские приходят - и в них отражаются все, даже самые незначительные операции, в т.ч. и внутрибанковские, типа оплаты за поддержание счета и т.п.

Татарин> потому что никто и никогда не будет разбираться в 97411 служебных пакетах от одной системы другой и выводах ИИ... да и логов, возможно, не будет.

Почему не будет? Собственно, такой анализ даже программа статистического анализа произвести может.

Татарин> Ты приходишь на работу, и тебе говорят: "мужик, ты не толерантный: твой индекс терпимости 2.2, а на эту работу нужно не менее 7.5". Или - что куда вероятнее и ещё хуже - ничего не говорят, просто констатируют: "вы нам не подходите".

И каким образом будет отслеживаться моя толерантность? Да еще с точностью до десятых?

Татарин> Причём само обсуждение неверности работы машины и правил толерантности точно так же отслеживается всеми камерами во всех общественных местах, уменьшая твои индексы от законопослушности до благонадёжности.
Татарин> Что ты будешь делать?

Возглавлю сопротивление!

Татарин> Причём, это хотя и кажется фантастикой, это таки хардкорная фантастика весьма ближнего прицела.

Это никому не нужная Оруэлловщина. Которой никогда не будет в реальной жизни. Создаваемые системы, да, могут невольно где-то кому-то усложнить жизнь. Но что-то я не вижу систем, которые изначальным образом создавались именно для повсеместного усложнения жизни всем и каждому.

Sandro>> Так в Raspberry Pi это всё уже и так есть!
KrMolot> Может и есть, но там совсем мало.
Sandro>> В том числе и графический процессор с поддержкой OpenCL, можешь считать, что хочешь. Правда, самая дохлая десктопная карта за $50 будет на два порядка быстрее.
KrMolot> Lightspeeur 2803 Neural Accelerator for Edge & Cloud
KrMolot> Best Peak Performance
KrMolot> 16.8 TOPs @ 300MHz
KrMolot> И какая карта за 50 баксов обеспечит аналогичную производительность в данной области?

1) Следим за порядком предложений в тексте. Я сравнивал видеокарту с Raspberry Pi. Вслед за твоим "Интересует видеоаналитика, но чтоб это было бюджетно. Какой-нибудь RPi с воткнутым в него usb-брелком."
2) 16.8 непонятных попугаев мне не говорят ровным счётом ничего. А документации, даже скромного технического описания у них на сайте нет. Поэтому производительность этой железки я никак оценить не могу. Предоставишь внятную документацию — оценю.

PS: Если хочешь хорошего совета — забудь эти "нейросети", как страшный сон. С вероятностью 99% ты просто зря потратишь время и деньги.

Иван, ты знаешь присказку про закон и колбасу? Людям, которые едят колбасу и верят в закон, не нужно видеть, как они делаются. Вот тут тот самый случай.

Татарин>> А если он будет считать, что прав? А если эту правоту поддержат программисты/владельцы, и с их точки зрения всё верно?
AGRESSOR> Что значит "он будет считать"? Он может считать вместе с программистами все, что угодно. Но есть ПДД и есть факт - в моем случае - несрабатывание системы, которое легко проверяется.
Оно может и нелегко проверяться. А может быть непроверяемым совсем. А самое главное, может просто не возникнуть желания проверять. Примерно как если у тебя приняли деньги без водяных знаков, никто при проверке не станет разбираться, что там могло случиться в "Гознаке" с бумагой, а предположат, что у тебя в руках - подделка.

Татарин>> Что бы ты сделал, если бы RFID-таблетка бы исправно срабатывала, когда ты пытаешься доказать невиновность, но периодически не срабатывала бы по жизни?
AGRESSOR> А как такое может быть? Я не встречался за всю жизнь с вещами, которые настолько избирательно бы не работали.
Это потому что ты не занимаешься исправлением странных проблем. Я мог бы привести пару своих приколов из ИТшной жизни, но приключения электронов на стоках и символов в базах данных куда менее наглядны. Придётся много объяснять, что убьёт суть анекдотов.

AGRESSOR> Ну, чтобы ещё и при нескольких перепроверках - теор.вер. тут, как мне кажется, кровавыми слезами ревет.
Ты неверно применяешь теорвер, предполагая, что события случайны. А они могут быть (и часто бывают) закономерны, просто закономерность неизвестна. Например, твой РФИД может не работать только на конкретном пункте доступа только в рабочие дни (и я даже могу навскидку предложить пару более-менее реальных конфигураций, в которых случается такая проблема). А разбираться ты поедешь в выходной. "Упс"©

AGRESSOR> Ну, вроде как во всех все сомнения трактуются в пользу обвиняемого, нет?
Правда?
Нет. Не все. Иначе суды вообще не смогли бы работать. Например, отпечатки пальцев в 1 случае из 10000 могут просто и честно совпасть, хотя наличие пальчиков обвиняемого на краденом - практически безусловное доказательство. Что ещё хуже, я говорю про мир, в котором решения (в силу дешевизны их вывода) принимаются по мелочи и в огромном количестве. Не будет ни судов, ни обвиняемого, ни "сомнений". Будет, как в банке, когда тебе сообщают процент, под который согласны (если согласны) тебе выдать ипотеку.
Ты не знаешь, на основе чего выведен этот процент. Можешь быть уверен, и сейчас это делает машина, и сейчас она это делает на основе фактов из твоей жизни, о которых ты забыл, или даже и понятия-то никогда не имел.

Просто банки первыми (одними из) столкнулись с бигдатой (ещё тогда, когда и словей таких не было) и первыми начали применять машины для её анализа. А сейчас это доступно многим, очень многим.

И ты не просто не можешь оправдаться, ты не просто не можешь что-то там оспорить, нет. Ты не имеешь даже возможности узнать, на основе каких, собссно, фактов банк пришёл к тому или иному решению. Это коммерческая тайна банка.

Сегодня тут. Далее везде.

Я не зря брал кадровиков в качестве примера: там примерно та же самая ситуация с "подковёрным" исследованием прошлого человека с далеко идущими (для человека) выводами и без возможности оспорить решение. Это тоже отрасль, которая одной из первых взяла на вооружение автопоиски по соцсетям, блогам и прочим всевозможным цифровым следам. У меня одноклассник сейчас работает в конторе, которая предоставляет услуги глубокого поиска по истории людей для найма (не только общедоступной цифровой, но в том числе и её). Тоже глубокое обучение, нейросети. Пока только для поиска, не для выводов. Но это начало пути.

И, возможно, чет через пять когда ты придёшь наниматься в какую-то контору, её кадровик или начальник, подписанный на сервис, кликнет на пару кнопок и "пробьёт" тебя "по базам" через эту контору. И какой-нить твой пост, который ты давно стёр, сыграет в найме критичную подложительную (или отрицательную) роль.

Татарин>> Тут реально возможна ситуация как в анекдоте про бога, который является к невезучему и объясняет ему - "не нравишься ты мужик, просто не нравишься".
AGRESSOR> Это анекдот с совершенно антропоцентричным взглядом, а потому не может отражать Бога (даже в чисто философско-описательном смысле, как идею).
? Эээ... Это анекдот.

Ну, или ладно, можно и так: суть юмора - в противопоставлении ожиданий тренированой на определённый нарратив и контекст нейросети твоего мозга и актуального описания, создание определённого подвида когнитивного диссонанса. В данном случае общепринятый нарратив и дискурс, которым, предполагается, владеет слушатель анекдота, описывает бога как всемогущее и всеведущее всеблагое высшее существо. Суть шутки заключается во внезапном для слушателя анекдота противопоставлении этого образа образу сугубо упрощённой человекоподобной личности, ведомой примитивными и даже плохо осознаваемыми личностью эмоциями.
Смысл приведения мною этого анекдота в проведении аналогии между внезапно примитивным, но тем не менее могучим, с неоспоримой властью существом и сетевой системой, которая принимает множество неспоримых тобой, но влияющих на твою жизнь решений.

Так лучше?
Может, лучше. Хотя явно дольше.

AGRESSOR> Зато с четкостью критериев, ИМХО, все очень хорошо.
ГЫ! Гы-гы-гы!
Вон, тут в топике Сергей и Мишка тоже нейросети вертели. Можешь спросить у них о чётких критериях в сложных системах ИИ (если речь заходит о чём-то, что не выражается одним числом).
Беда в том, что ты и сам-то не можешь задать чётких критериев для абсолютного большинства случаев, когда мы применяем ИИ. Если бы могли, нам бы просто не нужен был бы ИИ со всем этим глубоким обучением, мы бы просто написали алгоритм. Но мы не можем.

AGRESSOR> Как доказывания вины, так и невиновности со стороны объекта. Любые неточности или неоднозначности - при невозможности их рассмотрения - могут и должны трактоваться в пользу объекта.
Ещё раз: машина позволяет (во многих областях - позволит в будущем) принимать решения настолько дёшево, настолько быстро и настолько много, что может получиться так, что не будет ни "вины", ни "доказательств". Будет цифровая карма. Судьба, воплощённая в цифровой истории твоих поступков, регрессивных распределений в сообществе, и тысячах, миллионах невидимых и уже потому неоспоримых окончательных машинных выводов.

AGRESSOR> ИИ может, конечно, это отследить. Вопрос тут опять в критериях и здравомыслии тех, кто эти критерии в систему заложит. Во-первых, ИИ может и не будет видеть, что могу увидеть я за рулем. Торможение на разных поверхностях, например, производится по разному: на сухой так, на мокрой может чуть иначе, а при наличии глубоких луж вообще по-третьему. Мы позволим закладывать в ИИ критерии кому - водителям или детсадовцам?
"Кому закладывать" - это ещё один интересный вопрос, с которого и начался топик. Например, запросто может получиться так, что "закладывать" будут активистка-феминистка и скрытая супремасистка третьего пола, и наличие луж её волновать будет не так сильно, как то, как ты расставил ноги на водительском сиденье (нет, я так не думаю, это просто пример; я думаю, что в жизни может быть ещё безумнее).

AGRESSOR> Почему? Например, мне биллинги по электронным операциям или банковские приходят - и в них отражаются все, даже самые незначительные операции, в т.ч. и внутрибанковские, типа оплаты за поддержание счета и т.п.
А тебе и придёт счёт. Например, за медицинскую страховку, учитывая твой образ жизни, курение, общественное потребление кофе и заказанной еды. И там будет стоЯть, допустим, 1830 рублей. А у твоего соседа 1181, а у твоей жены, допустим, - 3219. И ты никогда не узнаешь с точностью до рубля почему именно так, хотя опытный врач, может быть, скажет, что в случае твоей жены, наверное(!), велИк риск того-то и того-то, а твой сосед, может, меньше чая покупает.

AGRESSOR> И каким образом будет отслеживаться моя толерантность? Да еще с точностью до десятых?
О, это нынче запросто. Хоть до тысячных.

AGRESSOR> Это никому не нужная Оруэлловщина. Которой никогда не будет в реальной жизни.
Частично она уже есть. Просто страусов стараются не пугать, пол может не выдержать.

Sandro> PS: Если хочешь хорошего совета — забудь эти "нейросети", как страшный сон. С вероятностью 99% ты просто зря потратишь время и деньги.
Ты даже не знаешь, над чем человек работает, что ему нужно, что есть? Безотносительно применения?

Какой-то несуразно смелый совет.

Татарин> И, возможно, чет через пять когда ты придёшь наниматься в какую-то контору, её кадровик или начальник, подписанный на сервис, кликнет на пару кнопок и "пробьёт" тебя "по базам" через эту контору. И какой-нить твой пост, который ты давно стёр, сыграет в найме критичную подложительную (или отрицательную) роль.

Ну, это проблема ошибки обучения, не имманентно присущая именно машинному обучению. В данном случае это будет явный оверфиттинг, как только инженеры его обнаружат, его уберут. Или даже если не обнаружат - он сам уйдет с увеличением training базы.

И это ничуть не лучше, чем принятие решения самим кадровиком. Он тоже может поискать по форумам и тоже вполне может быть подозрителен к, скажем, авиабазе.

Sandro> PS: Если хочешь хорошего совета — забудь эти "нейросети", как страшный сон. С вероятностью 99% ты просто зря потратишь время и деньги.

Ты себе не представляешь, как быстро нынче нейронные сети находят решение, если оно есть. Ну, конечно, не любое. Только "дифференцируемое". Скажем, задача отличить простое число от непростого для нынешних сетей вообще никак неподвластна. Но "дифференцируемые" - решаются влет. Когда я сделал ошибку и вставил в исходные данные результат, мои сетки подхватили его буквально в секунды и начали весело выдавать модели с accuracy 9.9999999. У меня глаза на лоб полезли.

Причем это не то, что все данные были результатом, примерно 99% были настоящими исходными данными и вычленить 1 процент для человека задача, наверное, плохорешаемая. А для сеток - почти ничего. Причем у меня не стойка с тысячей процессоров, а всего один дохлый AMD.

Вообще, все задачи где максимумы хорошо определены и случайность данных мала решаются сетками совершенно свободно и жуть как быстро. Ну а применить модель для оценки конкретного сэмпла - ну это вообще ничего. Оценить сэмпл - это сотые доли секунды.

Татарин>> И, возможно, чет через пять когда ты придёшь наниматься в какую-то контору, её кадровик или начальник, подписанный на сервис, кликнет на пару кнопок и "пробьёт" тебя "по базам" через эту контору. И какой-нить твой пост, который ты давно стёр, сыграет в найме критичную подложительную (или отрицательную) роль.
Сергей-4030> Ну, это проблема ошибки обучения,
Эээ... а почему же ошибка? В примере ничего не сказано, правильно ли нанимать Агрессора или нет, или о чём был пост на том форуме. Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен, несмотря на все новомодные GDPR. И он таким и останется, только станет ещё злее и ещё памятливее.
А все эти законы о сохранности личных данных будут просто для того, чтобы в быту этим открыто не злоупотребляли бы.

Татарин> Эээ... а почему же ошибка? В примере ничего не сказано, правильно ли нанимать Агрессора или нет, или о чём был пост на том форуме. Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен, несмотря на все новомодные GDPR. И он таким и останется, только станет ещё злее и ещё памятливее.
Татарин> А все эти законы о сохранности личных данных будут просто для того, чтобы в быту этим открыто не злоупотребляли бы.


Отличают ли сети иронию ? )).

Татарин> Эээ... а почему же ошибка? В примере ничего не сказано, правильно ли нанимать Агрессора или нет, или о чём был пост на том форуме. Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен, несмотря на все новомодные GDPR. И он таким и останется, только станет ещё злее и ещё памятливее.
Татарин> А все эти законы о сохранности личных данных будут просто для того, чтобы в быту этим открыто не злоупотребляли бы.

Дисциплина потому что. Нефиг держать персональные аккаунты под своим именем кроме как для официальных целей и если ты официальное лицо, или ищешь работу, например. Нет никакой причины пропагандировать свои политические взгляды под своим именем, например, если ты не политик и не публичное лицо. Вытягивание персональных данных конторами вроде Гугла и Фейсбука - вредительство, которому граждане должны противостоять. Фейсбук потому маздай, и даже должен быть запрещен во многих странах.

digger> Дисциплина потому что. Нефиг держать персональные аккаунты под своим именем кроме как для официальных целей и если ты официальное лицо, или ищешь работу, например.
И это нормальная практика, наблюдал такое не раз ))
Когда у людей, вроде не перегруженных занудством вдруг появлялись до зубной боли официальные "дубли" под реальными именами с официальными фото и какими-то протокольными записями на стене "страницы".

Татарин> Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен, несмотря на все новомодные GDPR. И он таким и останется, только станет ещё злее и ещё памятливее.
Ты только так и не сказал, в чем "лопата".
Ты не знаешь, почему банк согласен тебе дать ипотеку под конкретный процент сегодня - но предлагаешь бояться, что твоя страховка в будущем тоже будет рассчитана индивидуально под тебя.

Татарин>> Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен, несмотря на все новомодные GDPR. И он таким и останется, только станет ещё злее и ещё памятливее.
Полл> Ты только так и не сказал, в чем "лопата".
Полл> Ты не знаешь, почему банк согласен тебе дать ипотеку под конкретный процент сегодня - но предлагаешь бояться, что твоя страховка в будущем тоже будет рассчитана индивидуально под тебя.
А с чего ты взял, что там была "лопата" вообще?
С чего ты взял, что мне нравится то, что есть уже сейчас? Я предлагаю "бояться" того, которое есть сейчас и трижды - которое будет.

Я предлагаю задуматься над тем, что каждый человек оставляет в своей жизни вполне документированный след, который в цифровую эпоху может быть необычайно чёток, подробен и информативен.

И если сейчас этим пользуются почти только банки и кадровики, то в будущем... скажем так, возможны всякие варианты.
Откуда и все эти скачки с "прайваси", которых большинство людей в России пока не понимает: законодатели в ЕС осознали, что такая информация - оружие огромной силы, и если оно будет применяться бесконтрольно всеми против всех, всё это плохо закончится. Примерно как полная анархия и выяснение, кто прав, с пистолетами в руках. Такие вещи разумное государство разумно припасает только для себя. В России пока этого ещё не поняли: необходимость иметь все эти вещи у себя под рукой уже как-то понимают, а вот опасность всего этого в вольном частном пользовании - ещё, кажется, нет.

Иначе бы не было странных телодвижений по поводу внедрения биометрии в банках.

кщееш> Отличают ли сети иронию ? )).
Выяснишь экспериментально.

Татарин>>....Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен

Почему это "зло"? Просто - памятливые

кщееш> Отличают ли сети иронию ? )).

Большинство людей - нет. Считать, что машина различит - это не толерантная дискриминация альтернативно умственно одаренных людей

KrMolot>> В последнее время стали появляться специализированные чипы связанные с нейронными сетями

Balancer> Нейросети в железе — нейропроцессоры и т.п.
Далее продолжу выкладывать новости по ссылке выше.

Татарин>>>....Я лишь хотел подчеркнуть, что нынешний мир (цифровой) очень (зло)памятен
Wyvern-2> Почему это "зло"? Просто - памятливые
кщееш>> Отличают ли сети иронию ? )).
Wyvern-2> Большинство людей - нет. Считать, что машина различит - это не толерантная дискриминация альтернативно умственно одаренных людей

Я вот надеюсь это отличие будет ещё некоторое время нас спасать.

Татарин> С чего ты взял, что мне нравится то, что есть уже сейчас? Я предлагаю "бояться" того, которое есть сейчас и трижды - которое будет.
Ты предлагаешь бояться своей репутации.
По сути.
Достаточно странное заявление.
С точки зрения такого антисоциального человека, как я.

Татарин>> С чего ты взял, что мне нравится то, что есть уже сейчас? Я предлагаю "бояться" того, которое есть сейчас и трижды - которое будет.
Полл> Ты предлагаешь бояться своей репутации.
Полл> По сути.
Полл> Достаточно странное заявление.
Полл> С точки зрения такого антисоциального человека, как я.

ПМСМ собирать и оценивать будут в основном факты и события, которые по "их" мнению несут риски. Т.е. "пазл" будут складывать только из "чёрных" кусочков. Критерий отбора "кусочков" непонятен. Вес "кусочков" - неизвестен. По меньшей мере этого стоит бояться.

ZaKos> ПМСМ собирать и оценивать будут в основном факты и события, которые по "их" мнению несут риски. Т.е. "пазл" будут складывать только из "чёрных" кусочков. Критерий отбора "кусочков" непонятен. Вес "кусочков" - неизвестен. По меньшей мере этого стоит бояться.
То есть ты опасаешся, что "мелкие недостатки", общепринятые в нашем обществе, которые несут реальный риск - данная система будет оценивать объективно, то есть "не правильно"?
А "ценные качества", ценимые в нашем обществе, но не имеющие реальной пользы, данная система будет оценивать с нулевой или незначительной положительной ценностью - то есть опять же "не правильно", я правильно тебя понял?

ZaKos>> ПМСМ собирать и оценивать будут в основном факты и события, которые по "их" мнению несут риски. Т.е. "пазл" будут складывать только из "чёрных" кусочков. Критерий отбора "кусочков" непонятен. Вес "кусочков" - неизвестен. По меньшей мере этого стоит бояться.
Полл> То есть ты опасаешся, что "мелкие недостатки", общепринятые в нашем обществе, которые несут реальный риск - данная система будет оценивать объективно, то есть "не правильно"?
Полл> А "ценные качества", ценимые в нашем обществе, но не имеющие реальной пользы, данная система будет оценивать с нулевой или незначительной положительной ценностью - то есть опять же "не правильно", я правильно тебя понял?
Полл>

Нет. Неправильно.

Например: Переход улицы на красный свет (в условии отсутствия транспорта) будет влиять или нет. Если будет, то с каким весом.
Стакан холодной воды выпитый в жаркий день будет влиять или нет. И если будет (ведь ты ВОЗМОЖНО наносишь вред своему здоровью), то с каким весом.

И кто определяет вес и знак событий и поступков.

ZaKos> Например: Переход улицы на красный свет (в условии отсутствия транспорта) будет влиять или нет. Если будет, то с каким весом.
Безусловно - будет.
С весом, показывающим, насколько такое поведение влияет на другие оцениваемые показатели.

ZaKos> И кто определяет вес и знак событий и поступков.
Мы говорим про числогрыз, которому ссыпали уйму данных о множестве поступков множества людей. Машина покрутила шестеренками и нашла фактические соотношения: такое-то поведение на столько-то процентов увеличивает риск того-то, а такое-то - того-то.
И привычка пить воду стаканами может означать проблему с эндокринной или кровеносной системой, что означает вполне статистически значимые вероятности умереть раньше или под меньшей нагрузкой.

ZaKos>> Например: Переход улицы на красный свет (в условии отсутствия транспорта) будет влиять или нет. Если будет, то с каким весом.
Полл> Безусловно - будет.
Полл> С весом, показывающим, насколько такое поведение влияет на другие оцениваемые показатели.
ZaKos>> И кто определяет вес и знак событий и поступков.
Полл> Мы говорим про числогрыз, которому ссыпали уйму данных о множестве поступков множества людей. Машина покрутила шестеренками и нашла фактические соотношения: такое-то поведение на столько-то процентов увеличивает риск того-то, а такое-то - того-то.
Полл> И привычка пить воду стаканами может означать проблему с эндокринной или кровеносной системой, что означает вполне статистически значимые вероятности умереть раньше или под меньшей нагрузкой.

А может и не означать.

А подача милостыни может говорить о том, что ты транжира.

А повышенное либидо ведет к перерасходу денег на женщин.

А 4-х разовое питание к перерасходу денег на еду. И перерасходу еды.

И оп-ля...

Ты живешь не как хочешь ты, а так как хочет непонятно кто и непонятно зачем.

ZaKos> А может и не означать.
С понятиями "теория вероятности" и "математическая статистика" предлагаю ознакомится самостоятельно.

ZaKos> Ты живешь не как хочешь ты, а так как хочет непонятно кто и непонятно зачем.
Ты живешь так, как ты хочешь.
Но платишь по счетам не так, как принято в нынешнем обществе, где убивающие в сто раз больше, чем террористы, считаются совершающими мелкий проступок - а насколько ты делаешь реального вреда или приносишь реальной пользы.

Татарин>> С чего ты взял, что мне нравится то, что есть уже сейчас? Я предлагаю "бояться" того, которое есть сейчас и трижды - которое будет.
Полл> Ты предлагаешь бояться своей репутации.
Не то чтобы точно репутации и не то чтоб прям своей. Есть две вещи. Как бы это так выразить...

"Кандалы больших чисел".

Вот у людей тоже подводится статитика и на основе её делаются выводы. И индивидуально, и в коллективном бессознательном.

Например, что такое современный нам расизм? Это предубеждение против негров. Всех негров. Часто (далеко не всегда, но таки часто) основанное на вполне адекватной статистике и накопленному объективному и субъективному опыту. В Штатах среди негров больше преступников. Ага, "раз чёрный - значит, потенциальный вор". Среди негров меньше экономически успешных людей. Ага. "Раз чёрный - так ленивая скотина".

Мы называем это расизмом и боремся с такими предрассудками не просто так (слово-то какое прекрасное, а? пред-рассудок - "до-того-как-начал-думать").
Потому что мы такими предрассудками жестоко ограничиваем хороших людей, которым почему-то не повезло иметь чёрную кожу. Очень много теряют люди. Таки прилично теряет общество в целом, ограничивая самореализацию людей и толкая их в жопу.

Это происходит именно потому, что предрассудки и предубеждения имеют какую-то базу, рациональны. (КМК, в России расизм куда более безобиден именно потому что бессмысленная калька, усвоенная с американских фильмов - если кто-то там и ненавидит негров, то ненавидит иррационально, без опоры на личный и общественный опыт; такие люди, дающие волю своей тупости, редки, а на критичных должностях - ещё реже).

Теперь, что такое нейросеть? Нейросеть - это машина выработки предрассудков.
Понимаешь?
Посмотри на вопрос с этой стороны. В этом её смысл. Мы берём безгрешную невинную сеть и пичкаем её примерами, чтобы она на примерах выцепила бы какие-то общие закономерности и взаимосвязи. И она их находит. Между законопослушностью и цветом кожи, например.
А затем мы даём нейросети примеры и просим определить вероятности. И получаем легко предсказуемый результат, как та нейросеть, которая всех негров в подозрительные личности записывала. ПОлучаешь нормальный такой машинный расизм. И это ещё очень неплохой случай, я начал с него потому что этому есть "людские" аналоги.

Ты скажешь "ок, что такого"? Ну так та же нейросеть, например, записывала в подозрительные личности всех, кто в момент фото не улыбался (и легко понять почему, потому что тюремному фотографу гораздо реже улыбаются). А там ещё штук 10 жестоких предубеждений, весьма для тебя неожиданных и, возможно, неприятных.

Предрассудки всех видов - это не недостаток, это конечный продукт глубокого машинного обучения, его цель. Просто пока мы преобразуем звук голоса в слова и ищём котиков на картинках, то же самое явление называется другим словом. А вот когда дело доходит до оценки людей, та же самая функциональность могла бы вполне называться шовинизмом, если бы машина имела свою личность. Почему это плохо?
Потому что ты подпадаешь по каток больших чисел, и если ты уж очутился в плохой группе по любым причинам, то имеешь неиллюзорную возможность так же огрести, как и те, кто плохую репутацию группе зарабатывал.
(Вторым шагом будет необходимость общей мимикрии под критерии "хороших" групп с модификацией критерий нейросети с учётом этого, и... в общем, общественную динамику таких групп нефигово расписали подростковые психологи, работавшие в американских школах. Пишут, что там важно, чтобы у тебя, например, футболки были правильные и каждый день разные, иначе есть шанс скатиться в изгои (что влечёт тяжёлые тяжёлыми последствия, вплоть до самоубийств и расстрелов одноклассников). Но это уже глубоко, наверное.)

...

Второй компонент проблемы, как уже писал выше, - грядущая малая стоимость принятия микрорешения с опорой на твою историю и большие числа.
Проблема тут вот в чём: сейчас когда на кону что-то серьёзное идёт более-менее серьёзное разбирательство (как в суде, например). Это даёт шанс откопать много фактов, осмотреть ситуацию со всех точек зрения, обсудить последствия, невелировать субъективность отдельных людей и т.д. Это имеет и обратный эффект - ради мелочи по судам не ходят, только ради более-менее важного.
Если же сейчас речь идёт о мелочи, то более-менее разумное решение на потоке невозможно, поэтому оно и не принимается, берётся среднее по обществу, по умолчанию. Например, в ресторане тебя сначала обслужат, а потом подадут счёт. На автоматической заправке сначала заправляешься, потом суёшь карточку. И т.п. и т.д.

Широкий сбор, анализ бигдаты и распространение нейросетей делает микрорешение по микроповодам очень дешёвым. И оно будет достаточно хорошим, чтобы применять технологию имело бы смысл. И из-за того, что это микрорешение, которое не приносит очевидных заметных трат никому, дело никогда не дойдёт до обсуждения по существу, разбора фактов и оправданий. Оно того не стОит. Зато микрорешений будет МНОГО (они же дёшевы).
И если твоя жена забыла внести плату за отопление, тебя не пустят в какой-то ресторан, попросят карточку до того, как заправишься, не выдадут кредитку... или откажут в собеседовании, например, даже не узнав о твоём существовании - просто сделают выборку по "более-менее аккуратным товарищам". Из-за твоей мрачной (допустим, я тебя не видел ) рожи, тебе будут дороже билеты на самолёт, а из-за покупки тобой кошачьей еды для знакомых, тебе не сдадут в аренду хорошие квартиры (и опять же, ты даже не узнаешь об этом).

Понимаешь? Это как повсеместное унижение негров в южных штатах США после победы северян. Законы - одно, а вот повседневная жизнь - совсем иное.

И мы имеем прекрасные шансы притащить этот вездесущий и всемогущий "машинный расизм" в тысячах лиц в свою жизнь. И более того, сейчас многое для этого делаем.

...
А теперь добавь сверху вишенкой ко всему этому, что нейросети - лишь инструмент людей, а целю у людей могут быть разные. Прецендентов жестокой дискриминации под флагом торжества толерантности было много. Для меня, например, переходом толстой красной черты было принятие Линукс СоС: наработанные тобой за годы бесплатного труда нематериальные активы могут в любую секунду похерить люди, ничего не сделавшие, но поставившие с целью травить "нетолерантных" людей.
Представь себе (это очень легко представить, ибо часто так и есть), что у этих людей в руках глобальные системы сбора и анализа данных и системы вычисления репутаций/принятия решений. Я бы добавил, что по каким-то важным (для них) частным вопросам эти люди могут вмешиваться напрямую и править ручками - см., допустим, системы финансовых рейтингов... но это слишком привычная и скучная пугалка. Это даже не нужно, в конце-то концов, для того и автоматика, чтобы люди не работали руками.
Всё ещё непонятно?

В дивном новом мире счастья будет много; гораздо больше, чем тебе нужно, КМК.