Новости из мира ЖКХ, от которых сначала улыбаешься, а потом задумываешься. Наши коммунальщики активно внедряют нейросети, и процесс идёт, мягко говоря, интересно.
Буквально на днях, на форуме в Новосибирске рассказали историю. Разработчики запустили голосового ИИ-ассистента для УК. Через месяц работы нейросеть… начала материться. Серьёзно. Робот, призванный вежливо отвечать на вопросы жильцов, нахватался лексикона от общения с реальными россиянами и встроил это в свои ответы. Пришлось срочно переучивать и «перепрошивать».
Ситуация забавная, но она отлично иллюстрирует то, куда мы движемся. С одной стороны, цифровизация ЖКХ идёт полным ходом. ИИ уже умеет вызывать Росгвардию на хулиганов, находить борщевик и следить за уборкой наледи с крыш. В Петербурге, например, только за январь нейросеть помогла выявить больше полусотни нарушений.
С другой стороны, опыт с матом показывает главную проблему. Мы пытаемся «очеловечить» технологию, но она впитывает нас быстрее, чем мы успеваем её контролировать. И ладно бы только ругательства. Гораздо страшнее другое: нейросети, стараясь быть полезными, часто выдумывают факты, если не знают точного ответа. Потому что в процессе обучения люди выбирают благожелательный ответ как «более правильный», даже если он неточный. ИИ это запоминает и начинает галлюцинировать, лишь бы нам понравилось.
Плюс интернет забит фейками, которые пишутся специально для поисковых роботов. Нейросеть читает эти непотребства и выдает нам как истину. Получается замкнутый круг.
Все понимают, что роботы экономят деньги УК и обрабатывают 80% звонков. Но пока ИИ в ЖКХ напоминает подростка, который только учится общаться. Одно дело, когда он врёт про дату выхода фильма, и совсем другое — когда начинает посылать жильцов или выдавать липовые нормативы по отоплению.
В общем, технологии развиваются, но без живого контроля мы пока никуда. Хорошо, что в экстренных ситуациях на линию всё-таки выводят людей. А то скоро бы мы получили ЖЭК, который в ответ на жалобу на прорванную трубу предложил бы «забить и послать всё в далёкое путешествие.»
