ИИ не будет функционировать только за счет ИТ
Разнообразие — это сильная сторона, особенно когда речь идет о разработке искусственного интеллекта. Вот почему в проектировании и разработке ИИ должны участвовать люди с разным профессиональным опытом, от юриспруденции до творческих искусств. Однако многие команды, пытающиеся подключиться к ИИ, часто сталкиваются с серьезным камнем преткновения: путаницей.
Джеймс Лэндейпрофессор информатики в Стэнфордском университете, в недавнем докладе выступал за коллективный ИИ. подкастзаявив, что целостное проектирование систем искусственного интеллекта в настоящее время является наиболее важной частью внедрения искусственного интеллекта. ИИ не будет успешным без ценностей, ориентированных на человека, убежден Лэндей в беседе с Лорен Йистарший партнер McKinsey.
Лэндей: переход к ИИ, ориентированному на человека, — это не только приложения. соучредитель и содиректор компании Стэнфордский институт человекоориентированного искусственного интеллекта (HAI), пояснил. «Речь идет также о том, как мы создаем и проектируем эти системы ИИ, кого мы привлекаем к этой разработке и как мы способствуем процессу, более ориентированному на человека, когда мы создаем и оцениваем системы ИИ».
Проблема с ИИ заключается в его непредсказуемости. Например, это технология, отличная от ПК, «и в некоторых отношениях она не так надежна», — сказал Лэндей. Это связано с тем, что системы искусственного интеллекта являются вероятностными, которые могут давать разные результаты в зависимости от поступающих в них данных, и детерминистическими, «когда одни и те же входные данные всегда дают один и тот же результат. Нам нужно по-другому подумать о разработке систем искусственного интеллекта».
Загружайте данные в вероятностные модели ИИ и «получите разные результаты, в зависимости от того, как эти данные обрабатываются в этой огромной нейронной сети», — сказал он. Вероятностные модели также порождают галлюцинации или утверждения, которые не соответствуют действительности. «Мы даже не уверены, почему они происходят, и на самом деле это одна из самых серьезных проблем, касающихся того, кто строит эти модели».
Поэтому системами искусственного интеллекта труднее управлять, когда они выходят из строя. «Вот почему нам нужно по-другому подумать о разработке систем искусственного интеллекта, поскольку они станут повсеместными в нашей повседневной жизни, от здравоохранения до образования и государственного управления», — сказал Лэндей.
«Сейчас у нас в основном есть группы инженеров, например, ответственные группы искусственного интеллекта или группы безопасности, которые должны проверять продукты перед их выпуском. К сожалению, есть много стимулов просто вытолкнуть что-то за дверь. И у этих команд недостаточно социального капитала, чтобы остановить это».
Вместо этого в процесс проектирования и разработки необходимо включать разнообразный опыт. «Нам нужны команды с этими разными дисциплинами — социологи, гуманисты, специалисты по этике — потому что тогда проблемы будут обнаружены раньше. И как члены команды, эти люди будут обладать социальным капиталом, чтобы осуществить эти изменения».
Одна из проблем открытого, междисциплинарного подхода к ИИ заключается в том, что на переполненной кухне оказывается много поваров. «Люди в разных областях говорят на разных языках, поэтому одни и те же слова могут означать разные вещи для разных людей», — предупредил Лэндей. «Например, я работаю над проектом с профессором английского языка и кем-то из медицинской школы. И то, что они называют «пилотным исследованием», — это не то, что я бы назвал «пилотным исследованием»».
В то же время такая путаница, возможно, не так уж и плоха — путаница может привести «к новым идеям и новым взглядам на вещи», объяснил он. «Например, у нас были люди, работающие над большими языковыми моделями и изучающие обработку естественного языка. А затем они сталкиваются со специалистом по этике с опытом работы в политологии, который ставит под сомнение некоторые вещи, которые они делают, или то, как они выпускают свое программное обеспечение без особых гарантий».
ИИ меняет наш бизнес, наши рабочие места, наше общество и в целом. Крайне важно, чтобы это был совместный процесс.
