Keywords
大型语言模型, 软件生成, 隐私, 效用, 保密性, 完整性, 可用性, 软件 开发的未来
Paper Number
TR-2712
Paper Type
Complete
Abstract
2025 年，大型语言模型（LLMs）的主要开发者宣布，他们的系统可以从自 然语言描述中自动生成软件代码。然而，这些进展在很大程度上忽视了对 隐私和网络安全的影响。基于机器学习理论，我们提出了一个框架，展示 了LLM生成软件中的隐私、效用、保密性、完整性和可用性如何受到固有 内在张力、权衡和悖论的影响。我们使用一个开源LLM、一个包含20,000 个代码样本的精选库以及记录的网络安全攻击对这些命题进行了实证测试。 结果显示，差分隐私（DP）提高了隐私性但降低了效用，强调了隐私与效用 之间的核心权衡。此外，尽管DP加强了对保密性、完整性和可用性攻击的 防御，但同时削弱了检测能力，形成了保护与检测的悖论。我们讨论了理论 和实践的影响，敦促信息系统（IS）研究应对这些挑战，并为未来IS职业在 AI 驱动的代码生成中不断变化的隐私和网络安全需求做好准备。
Recommended Citation
Wei, Wenqi; Li, Xiang; and Tanriverdi, Hüseyin, "使用大型语言模型进行软件生成：隐私、效用与网络 安全的紧张关系" (2025). ICIS 2025 Proceedings. 48.
https://aisel.aisnet.org/icis2025/translated/translated/48
使用大型语言模型进行软件生成：隐私、效用与网络 安全的紧张关系
2025 年，大型语言模型（LLMs）的主要开发者宣布，他们的系统可以从自 然语言描述中自动生成软件代码。然而，这些进展在很大程度上忽视了对 隐私和网络安全的影响。基于机器学习理论，我们提出了一个框架，展示 了LLM生成软件中的隐私、效用、保密性、完整性和可用性如何受到固有 内在张力、权衡和悖论的影响。我们使用一个开源LLM、一个包含20,000 个代码样本的精选库以及记录的网络安全攻击对这些命题进行了实证测试。 结果显示，差分隐私（DP）提高了隐私性但降低了效用，强调了隐私与效用 之间的核心权衡。此外，尽管DP加强了对保密性、完整性和可用性攻击的 防御，但同时削弱了检测能力，形成了保护与检测的悖论。我们讨论了理论 和实践的影响，敦促信息系统（IS）研究应对这些挑战，并为未来IS职业在 AI 驱动的代码生成中不断变化的隐私和网络安全需求做好准备。
When commenting on articles, please be friendly, welcoming, respectful and abide by the AIS eLibrary Discussion Thread Code of Conduct posted here.
Comments
12-GenAI