ИИ и Open Source — гремучая смесь?
На The Register вышла статья о том, что Python-разработчики завалены баг-репортами, которые придумал ИИ: это стало известно при анализе опенсорс-кода, который часто переиспользуется в сотнях проектов. Это не первая претензия к ИИ. Значит ли это, что он не подходит для разработки? Или всё же существуют способы, которые могут облегчить жизнь программистам, несмотря на его недостатки?
Практически у всех систем искусственного интеллекта, независимо от архитектуры — нейросети или другой тип ИИ — наблюдаются «галлюцинации». Это неверные ответы, которые ИИ непонятно каким образом генерирует. Одно дело, когда можно быстро проверить совет сервиса, а другое — если в сложной программе приходится потратить время, чтобы понять, есть ли ошибка.
Ранее исследователь ИБ сообщал, что галлюцинации ИИ, используемого для генерации технической документации, позволили ему внедрить в описание название фейковой библиотеки для распознавания лиц. Её скачали 15 000 раз: будь она создана хакером, тот мог бы вложить в нее практически любую функциональность.
Кажется, что ИИ в разработке преследуют проблемы, причём связаны они с опенсорсом. Это не так. Во-первых, опенсорс — на виду, проблемы в нем проще. И ещё важнее, что галлюцинации — это не порождение ChatGPT. Ещё годы назад галлюцинации преследовали ИИ, например, стрекоза иногда распознавалась как ружьё — ну что в них похожего?! Зато сейчас мало кто возьмётся соревноваться с ИИ в скорости и точности распознавания, может, и в разработке эти недочёты удастся решить.