Seth Larson, nhà phát triển bảo mật tại Python Software Foundation, cho biết ông nhận thấy sự gia tăng các báo cáo bảo mật chất lượng thấp, giống thư rác và chứa nhiều thông tin sai lệch do AI tạo ra. Những báo cáo này thoạt nhìn có vẻ hợp lý, đòi hỏi thời gian để kiểm chứng. Điều này gây khó khăn cho các dự án nguồn mở (như Python, WordPress, Android) thường được duy trì bởi nhóm nhỏ các nhà phát triển tình nguyện. Lỗi trong các thư viện mã phổ biến có thể gây ra hậu quả nghiêm trọng nếu bị khai thác. Larson cho biết số lượng báo cáo lỗi do AI tạo ra hiện còn nhỏ, nhưng đang tăng lên.
Daniel Sternberg, một nhà phát triển khác, đã chỉ trích một người gửi báo cáo lỗi vì đã lãng phí thời gian của ông với một báo cáo được cho là do AI tạo ra.
Công cụ tạo mã AI đang ngày càng phổ biến, nhưng nhiều nhà phát triển vẫn chưa đánh giá cao hiệu quả thực sự của chúng. Các công cụ như GitHub Copilot và công cụ tạo mã của ChatGPT khá hiệu quả trong việc tạo ra khung mã cơ bản. Tuy nhiên, giống như các mô hình ngôn ngữ khác, chúng cũng có thể tạo ra mã sai hoặc không đầy đủ. Nhà phát triển vẫn cần hiểu ngôn ngữ lập trình và mục tiêu xây dựng phần mềm. Các chuyên gia cho rằng các nhà phát triển trẻ sẽ bị ảnh hưởng nhiều nhất bởi các công cụ này.
Các nền tảng như HackerOne trả tiền cho các báo cáo lỗi, có thể khuyến khích một số người sử dụng AI để tìm lỗi và gửi báo cáo sai. Thư rác luôn tồn tại trên internet, nhưng AI đang làm cho việc tạo ra thư rác trở nên dễ dàng hơn. Có thể cần phải có các công nghệ mới để chống lại vấn đề này. Việc này gây lãng phí thời gian cho mọi người.
