曹研究室

About关于研究室

支撑AI的可信性。

曹研究室研究用于安全使用AI的隐私保护与安全技术。
该研究室以大语言模型、自主智能体、联邦学习和数据基础设施为对象，研究哪些方面存在风险，以及应当如何加以防护。
研究从差分隐私、安全计算等理论基础做起，一直构建到能够实际运行的算法和系统。
在日语和英语并用的国际化环境中，以在国际会议上发表成果为目标推进研究。

Research研究课题

该研究室致力于回答这样一个问题：如何让AI和数据科学以安全、可信的方式应用于社会。研究分为三个阶段推进：夯实理论基础、设计算法、部署到实际系统。

※示意图

隐私技术的基础↗

围绕差分隐私、安全计算、TEE（可信执行环境）、联邦学习，以及从已训练模型中移除数据，构建理论与算法的基础。研究范围涵盖严格的理论保证，直至能够实际运行的系统。

※示意图

AI的攻击与防御↗

研究大语言模型和自主智能体会以何种方式遭到攻击，又该如何防护。研究对象包括越狱、提示注入、后门攻击等风险。

※示意图

可信的数据基础设施↗

设计事后可以验证、能够稳定运行的数据流和AI系统。研究内容包括安全的向量数据库、数据市场，以及使用多种类型数据时的安全性评估。

Voices学长学姐的评价

评价基于在读（或曾在读）学生的个人经历，不代表研究室官方观点。评价的有无或数量不代表对研究室的评价。

对于接受采访的学生，无论内容如何，我们可能会赠送谢礼（价值1,000日元的礼品）。