ПРО ТРЕКИНГ НАСТРОЕНИЯ ДЕТЕЙ ПРИ ПОМОЩИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Китайская школа номер 11, что находится в Ханьджоу (недалеко от Шанхая), установила в своем кампусе ИИ-платформу компании HIKVision. Оборудование представляет собой смесь высокоточных камер и модуля искусственного интеллекта, специализирующегося на распознавании лиц детей в реальном времени и определении их текущего состояния, уровня внимания и настроения(!).

Система способна видеть, чем конкретно занимается ребенок (стоит/сидит, пишет/читает, тупит в окно), внимателен ли он в данный момент времени (пока учитель говорит, показывается обучающее видео, делает идеологический, одобренный партией, вброс итд.), активен или дремлет, какую эмоцию испытывает (позитивно настроен, злоба, агрессия). То, что система банально контролирует посещаемость и перемещения по кампусу, равно как и взаимодействия (контакты) детей друг с другом – это ежу понятно. Авторы системы это декларируют открыто.

Плюсы системы очевидны – можно поощрять тех, кто изо всех сил рвется учиться, карать тех, кто флегматично ковыряет в носу. Казалось, бы, все круто:) Но, если копнуть, а плюсы ли это? Тотальный контроль – ключик к эффективному обучению? Серьезно? Эйнштейн в школе и универе, вот, не всегда блистал оценками, и ничего так вышло. Я уже не говорю про избитые кейсы “раздолбаев” вроде Стива Джобса и Илона Маска.

Собственно, если взять 1000 самых выдающихся людей современности, вряд ли среди них будут доминировать те, кто что-то непрерывно зубрил. Система образования, построенная на зубрежке, априори обречена, ибо заучивание не учит интересу, любопытству, способности решать сложные задачи, придумать революционные, совершенно нешаблонные решения. Зубрежка учит только одному – получать зачеты. И, судя по всему, КНР выбирает зубрежку и тотальный контроль, то есть, мир, описанный в “1984”. Допустим, это их дело. Но ведь любая технология сегодня масштабируется в глобальном масштабе в считанные дни, поэтому давайте поразмышляем, что этот кейс значит.

Я понимаю, что Китай – страна, в которой живет 1.415млрд. Человек или, условно, 10 раз население России. Я не могу судить, легко ли эффективно управлять государством такого масштаба без применения инструментов тотальной слежки. Но я точно уверен в одном: всегда есть два пути – простой и правильный. И путь тотальной слежки за детьми – точно не правильный. Ребенок – это состояние постоянного обучения, большая часть которого происходит не в школе, а методом проб и ошибок. Многие совершают в школе глупости, пробуют фунт лиха на вкус и не повторяют идиотских поступков в зрелом возрасте. Наконец, ощущение шаловливости, озорства, способности совершать странные поступки – это же критично для детской психики. Иначе ребенку не вырасти нормальным – он должен иметь право на то, чтобы думать над тем, что он делает и учиться отделять добро от зла в своей собственной(!!!) системе ценностей, которая может отличаться от государственной или теологической.

Вспомните себя в 7 классе и представьте теперь, что каждый ваш шаг, каждое слово и эмоция на лице – отслеживаются. Что писать любовные записки на уроке – карается. Тупить, глядя на логарифм первый раз, – карается. Сбежать с химии на футбол – исключение из системы образования. Представили? Ну и как настроение? Суицидальное? Ну я бы точно застрелился. Или, что более вероятно, стал именно тем ребенком, что ломает систему изнутри. Ибо лучше сдохнуть в бою, чем так жить.

Возникает вопрос – люди, которые заказывают эти компьютерные системы контроля, то есть, оплачивают их разработку, экспериментальные расходы, время на обучение нейронных сетей, – они чем думают? Они думают, что их собственные дети будут жить вне этих систем? Возможно, будут. Вначале. Но джина из бутылки можно выпустить ровно один один раз. Если подобная система приживется в системе образования, в ней будут рождаться и умирать все дети планеты. И ваши тоже. Что страшнее – никто и ничего с этим сделать уже не сможет, потому, что самой мысли этой неоткуда будет взяться у “нормального”, по меркам системы, “очищенного от ереси” человека.

Мы, человечество, – обезьяны с гранатой. Не готовы мы к мощи ИИ. Это тупо технология опережающая время и нашу эволюцию. Искусственный интеллект может дать человечеству много замечательных вещей – от прорывов в области науки, энергетики, создания революционных медикаментов и нано-материалов до полной автоматизации всех мыслимых рутинных задач. Но темная сторона “Силы” AI развиваться пока в разы быстрее. В особенности тщательно мы напираем на системы контроля, наблюдения и потребления.

В прошлом году я написал пост о том, что распознавание лица в реальном времени будет в первую очередь использоваться не во благо человека, а, скоре, наоборот – для определения эмоционального состояния конкретной личности и, как следствие, – в качестве real-time детектора лжи и инструмента определения/подавления инакомыслия, изначально упакованное как “улучшатель продаж”. Ибо именно на это применение есть колоссальный потенциальный спрос “Большого брата” – ведь достаточно бегло показать человеку под ИИ-камерой, аналогичной системы, что стоит теперь в школе номер 11, портрет Путина или Собчак, Клинтон или Трампа, чтобы понять, за кого этот человек будет голосовать на следующих выборах. Кого он любит или ненавидит, врет он или говорит правду на вопрос “вы изменяли вчера жене? А Родине?”

Сценариев масса, но все они про манипуляцию. Кто-то мне тогда поверил, кто-то нет, кто-то покрутил пальцем у виска. Но это один из тех случаев, когда правым быть неприятно. Страшно видеть многие другие вещи, что нас ждут, как биологический вид. Много прекрасного, безусловно… НО… я вижу невероятное количество космически технологического дерьма, которое мы упорно сами созидаем на свою голову и искренне верим, что это варенье.

p.s. Философ скажет, что смотреть на такие изобретения надо в масштабе хотя бы 500 лет, чтобы отличать реальные последствия от прогнозов. И будет прав. Но мы-то живем здесь и сейчас, поэтому не говорить об этом мне тяжело, как бы я не любил холодную философию. К тому же, у меня на все кейсы приятных технологий есть один простой пример – то, что героин приятный – еще не значит, что его всем и каждому надо в себя ширять, так ведь? То же самое с искусственным интеллектом – есть отрасли, где надо не системы контроля поведения внедрять, а больше внимания уделять устранению “человеческих” косяков образования и конкретно – качеству, количеству и уровню компенсации преподавательского состава. Я уже не говорю про методики обучения, продвигающие человеческое любопытство и тягу к обучению вместо подготовки к сдаче ЕГЭ. Между этими целями – пропасть. Нам надо учиться учить растить деревья, а не заставлять сколачивать из досок одинаковые деревянные ящики под эффективным глазом “Большого брата”.

p.p.s Like/Share приветствуется. Это помогает таким постам хоть как-то конкурировать с новостями из жизни Джастина Бибера.