曹研究室

About关于研究室

AIの信頼性を支える。

曹研究室は、AIを安全に使うためのプライバシー保護とセキュリティの技術を研究しています。
大規模言語モデルや自律エージェント、連合学習、データ基盤を対象に、何が危険で、どう守るべきかを調べます。
差分プライバシーや秘密計算といった理論の土台をつくり、実際に動くアルゴリズムやシステムまで組み立てます。
日本語と英語が行き交う国際的な環境で、国際会議での発表を目指して研究を進めます。

Research研究课题

AIやデータサイエンスを、安全で信頼できる形で社会に使うにはどうすればよいかという問いに取り組んでいます。理論の土台づくり、アルゴリズムの設計、実際のシステムへの展開という3つの段階で研究を進めています。

※示意图

プライバシー技術の土台↗

差分プライバシー、秘密計算、TEE、連合学習、学習済みモデルからのデータ除去について、理論とアルゴリズムの土台をつくります。厳密な保証から、実際に動かせるシステムまでを扱います。

※示意图

AIの攻撃と防御↗

大規模言語モデルや自律エージェントが、どのように攻撃され、どう守れるのかを研究します。脱獄やプロンプトインジェクション、バックドア攻撃などのリスクを対象にしています。

※示意图

信頼できるデータ基盤↗

あとから検証でき、安定して動くデータの流れとAIシステムを設計します。安全なベクトルデータベース、データ市場、複数種類のデータを使う安全性の評価に取り組みます。

Voices学长学姐的评价

评价基于在读（或曾在读）学生的个人经历，不代表研究室官方观点。评价的有无或数量不代表对研究室的评价。

对于接受采访的学生，无论内容如何，我们可能会赠送谢礼（价值1,000日元的礼品）。