曹研究室

About研究室について

AIの信頼性を支える。

曹研究室は、AIを安全に使うためのプライバシー保護とセキュリティの技術を研究しています。
大規模言語モデルや自律エージェント、連合学習、データ基盤を対象に、何が危険で、どう守るべきかを調べます。
差分プライバシーや秘密計算といった理論の土台をつくり、実際に動くアルゴリズムやシステムまで組み立てます。
日本語と英語が行き交う国際的な環境で、国際会議での発表を目指して研究を進めます。

Research研究テーマ

AIやデータサイエンスを、安全で信頼できる形で社会に使うにはどうすればよいかという問いに取り組んでいます。理論の土台づくり、アルゴリズムの設計、実際のシステムへの展開という3つの段階で研究を進めています。

※イメージ画像

プライバシー技術の土台↗

差分プライバシー、秘密計算、TEE、連合学習、学習済みモデルからのデータ除去について、理論とアルゴリズムの土台をつくります。厳密な保証から、実際に動かせるシステムまでを扱います。

※イメージ画像

AIの攻撃と防御↗

大規模言語モデルや自律エージェントが、どのように攻撃され、どう守れるのかを研究します。脱獄やプロンプトインジェクション、バックドア攻撃などのリスクを対象にしています。

※イメージ画像

信頼できるデータ基盤↗

あとから検証でき、安定して動くデータの流れとAIシステムを設計します。安全なベクトルデータベース、データ市場、複数種類のデータを使う安全性の評価に取り組みます。

Voices先輩の声

評価・クチコミは、在籍している（していた）学生個人の経験に基づくもので、研究室の公式見解ではありません。クチコミの有無や件数は、研究室の評価を表すものではありません。

インタビューに協力いただいた学生に、内容にかかわらず謝礼（1,000円分のギフト）をお渡しすることがあります。