Академики РАН усомнились в том, что искусственному интеллекту можно доверять
Опубликовал: FIELD LINE, 8-12-2021, 18:29, В России / Технологии, 151, 0
На президиуме Российской академии наук был поднят ряд важных вопросов, связанных с технологиями искусственного интеллекта. Академики попытались понять: может ли человек доверять искусственному интеллекту, и где должна проходить граница этого доверия?
«Дело в том, что ИИ это сегодня «чёрный ящик», но самое главное, что никто, даже сами авторы программ не знают, как он работает. Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще возникнуть соблазн: так давайте вообще откажемся от науки. Всё передоверим нейросетям, на них любые расчёты смогут провести обычные операторы даже без высшего образования <…> Но мало кто задумался, что в итоге такого доверия можно получить совершенно искажённую картину, которая обойдётся в многие миллионы долларов», — приводит источник слова президента РАН Александра Сергеева.
Несмотря на то, что человек доверяет компьютерам и другой технике, в случае с искусственным интеллектом ситуация иная. Люди до сих пор не до конца понимают, как работает мозг человека. Точно также нет полного понимания того, что происходит внутри нейросети, построенной по аналогии с мозгом. Основой нейросетей является достаточно простое уравнение одного нейрона. Однако в случае, когда задействовано 500 млрд таких компонентов, никто точно не может сказать, какие связи устанавливаются внутри нейросети.
Также отмечается, что по мере развития нейросетей выявляется всё больше недостатков таких технологий. На начальном этапе нейросеть обучается на сотнях тысяч или миллионах примеров чего-либо. Однако зачастую даже небольшое отклонение от полученных в процессе обучения знаний приводит к тому, что система выдаёт неверный результат. Одним из ярких примеров этого является многомиллионная нейросеть IBM, которая разрабатывалась для медицины, но оказалось, что алгоритм ставит диагнозы на уровне среднего врача-человека. На основе этого учёные пришли к выводу о том, что ИИ-технологии позволяют строить очень умные системы, но и они далеко не безгрешны.
«Сегодня мировой тренд — создание так называемого доверенного искусственного интеллекта. То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдёт испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта», — сказал во время выступления академик РАН Арутюн Аветисян.
Источник
«Дело в том, что ИИ это сегодня «чёрный ящик», но самое главное, что никто, даже сами авторы программ не знают, как он работает. Можно ли в такой ситуации довериться его выводам? Ведь он будет, по сути, брать на себя функции оракула по самым разным вопросам. И надо признать, что многие задачи эта умная машина уже сейчас делает быстрее и лучше человека. И кто знает, а может у кого-то вообще возникнуть соблазн: так давайте вообще откажемся от науки. Всё передоверим нейросетям, на них любые расчёты смогут провести обычные операторы даже без высшего образования <…> Но мало кто задумался, что в итоге такого доверия можно получить совершенно искажённую картину, которая обойдётся в многие миллионы долларов», — приводит источник слова президента РАН Александра Сергеева.
Несмотря на то, что человек доверяет компьютерам и другой технике, в случае с искусственным интеллектом ситуация иная. Люди до сих пор не до конца понимают, как работает мозг человека. Точно также нет полного понимания того, что происходит внутри нейросети, построенной по аналогии с мозгом. Основой нейросетей является достаточно простое уравнение одного нейрона. Однако в случае, когда задействовано 500 млрд таких компонентов, никто точно не может сказать, какие связи устанавливаются внутри нейросети.
Также отмечается, что по мере развития нейросетей выявляется всё больше недостатков таких технологий. На начальном этапе нейросеть обучается на сотнях тысяч или миллионах примеров чего-либо. Однако зачастую даже небольшое отклонение от полученных в процессе обучения знаний приводит к тому, что система выдаёт неверный результат. Одним из ярких примеров этого является многомиллионная нейросеть IBM, которая разрабатывалась для медицины, но оказалось, что алгоритм ставит диагнозы на уровне среднего врача-человека. На основе этого учёные пришли к выводу о том, что ИИ-технологии позволяют строить очень умные системы, но и они далеко не безгрешны.
«Сегодня мировой тренд — создание так называемого доверенного искусственного интеллекта. То есть разработать такие требования, которые в принципе не позволят выпустить в мир нейросеть, которая способна совершать ошибки. И тестировать эту технику перед началом эксплуатации. Если пройдёт испытание успешно, то можно доверять. Для разработки таких аналогов ГОСТов в институте создан первый в России Центр доверенного искусственного интеллекта», — сказал во время выступления академик РАН Арутюн Аветисян.
Источник
