Производитель инструментов для веб-дизайна и дизайна приложений Figma временно отключил функцию генеративного ИИ «Make Design», поскольку, по его мнению, приложение «Погода» от Apple — это вершина мобильного прогнозирования.
Проектирование приложений с помощью искусственного интеллекта особенностьСклонность NotBoring Software к копированию языка дизайна Apple обнаружил основатель NotBoring Software Энди Аллен после того, как он попросил платформу создать «нескучное приложение о погоде».
Аллен сказал что генеративное приложение будет последовательно предлагать почти копии собственного погодного приложения Apple, которое поставляется со всеми устройствами iOS. Такое поведение заставило Аллена предположить, что Figma использовала существующие разработки приложений для обучения сервиса. «Figma AI выглядит довольно хорошо обученным на существующих приложениях», — написал он в продолжении почта.
После открытия генеральный директор Figma Дилан Филдс написал в Xitter-нить что компания «временно отключит функцию Make Design» до тех пор, пока не будут внесены исправления, предотвращающие подобное поведение.
Филдс также попытался опровергнуть обвинения в том, что сервис был обучен на популярных сторонних дизайнах приложений. «Функция Make Design не обучена на контенте Figma, файлах сообщества или дизайнах приложений. Другими словами, обвинения в обучении данных в этом твите ложны», — написал он в ответ на выводы Аллена.
Однако Филдс продолжил говорить, что эта функция создана с использованием готовых больших языковых моделей, которые работают в сочетании с «системами дизайна», которые заказала Figma. Проблема, объяснил он, заключается в этих «системах дизайна», добавив, что это подражание погодному программному обеспечению Apple можно было бы предотвратить с помощью дополнительных мер по обеспечению качества.
Мы могли бы это принять за то, что Figma заказала ряд дизайнов для обучения своего генеративного инструмента, и некоторые из этих дизайнов были очень похожи на работы Apple, отсюда и вывод функции.
«Я ненавижу ошибаться, особенно в том, что, по моему мнению, имеет принципиальное значение для будущего дизайна», — заключил Филдс.
Говоря с РегистрАллен сказал, что, по его мнению, объяснение Филда имеет смысл, хотя и отметил, что тот никогда не утверждал, что сервис был обучен на основе данных пользователей или сообщества.
«Настоящая проблема между компаниями GenAI и создателями заключается в том, что ни одна из компаний не раскрывает, как обучаются эти модели, с помощью каких данных и какие права были защищены. Это похоже на фастфуд креативности, где все ингредиенты и процессы скрыты», — посетовал он.
Аллен также ясно дал понять, что он не против использования генеративного ИИ в разработке приложений.
«GenAI в целом, похоже, хорош для создания промежуточных материалов для справки, но я считаю, что он в основном непригоден для большинства готовых работ. Со временем он станет намного лучше и у него большое будущее», — сказал он, добавив, что есть и другие функции ИИ, которые представила Figma, например, автоматическое именование слоев и локализация, которые просто фантастические. «Функции Make Designs, вероятно, просто нужно было немного больше времени, чтобы запечься».
Хотя Филдс настаивает, что функция Make Design не была обучена напрямую на существующих приложениях (возможно, только на чертежах, которые очень похожи на них), поведение сервиса вызывает вопросы о том, кто несет ответственность, если модель генерирует что-то, что предположительно нарушает авторские права.
Несколько технологических гигантов, включая Google и Microsoft, расширили ограниченную правовую защиту от претензий по нарушению авторских прав для пользователей своих сервисов генеративного ИИ.
Figma не обращалась напрямую Регистрвопросы о том, как и почему функция Make Design вела себя так, как она себя вела, или о том, какую правовую защиту она имеет в настоящее время или планирует предложить пользователям в будущем. Вместо этого представитель направил нас к посту Fields' Xitter и страница подробно описывая свой подход к ИИ.
Рассматривая поведение Make Designs, Аллен в отдельном послание пользователям сервиса было предложено «тщательно проверить существующие приложения или существенно изменить результаты», чтобы избежать потенциальных юридических проблем в будущем. ®
