Google DeepMindは、ほとんどの電子透かしに関する論文にはないものをNature誌に発表した。それは、実際の運用結果である。「大規模言語モデルの出力を識別するためのスケーラブルな電子透かし」と題された論文※の中で、Google DeepMindのSumanth Dathathri氏らは、SynthID-Textという方式について説明している。これは、トーナメントサンプリングと呼ばれるメカニズムによってLLM内部のトークンサンプリングにバイアスをかけることで、後でテキストと秘密鍵が与えられた際に、検出器がその出力がそのモデルから来たものであることを識別できるようにするものである。
興味深いのは、その展開方法です。チームによると、このシステムはGeminiとGemini Advanced内で稼働しており、数百万人のユーザーにサービスを提供する、生成テキスト透かしの大規模な展開としては初めてだとしています。透かしがユーザーの目に映るものを劣化させていないかを確認するため、約2000万件のGeminiの回答に対するフィードバックを比較したところ、透かしありと透かしなしの出力の間で、高評価と低評価の割合に大きな違いは見られませんでした。Gemmaで行われた人間による比較評価でも同様の結果が得られ、評価された品質面全体で評価者の好みに大きな違いはありませんでした。
https://aiweekly.co/alerts/deepminds-synthid-text-watermark-ran-live-across-gemini※2024年10月発表の論文
https://www.nature.com/articles/s41586-024-08025-4関連記事
AIで書いたことがバレる Claudeが消えない透かしを強制導入へ ネットは猛反発
https://forbesjapan.com/articles/detail/102748?read_more=1
geminiもチャッピーもそれでAIかどうか判別してくれる機能あるね
ほんまに他社AIは検出できないんかな？
SynthID-Text自体はオープンソース化されているが、Googleのみが知っている秘密鍵を知らないと検出できない
自分で書いてないレポートを機械的に不可にできる
ε~(ヽ´ん`)
（・ω・ ） ｽｰ
と_,、⌒) )～
（_ ﾉﾉ
暗号文みたいだ
画像は知らんが
消えない
単語や文字を選ぶ確率に、人間には分からないような偏りを入れるという方法
数行だと区別つかないだろ
その通りだからスマホ農場は摘発できない
3文程度から使用できるとのこと
3文程度から使用できるほか、テキストの長さが長くなるほどSynthIDの堅牢性と精度が高まるという。
https://pc.watch.impress.co.jp/docs/news/1634452.html
グーグルは画像にも透かし入れてるしかなり好印象
歳をとったからか逆にうんちのが面白いと思うようになってきた
中国製も透かしは入れてるかもよ
いいんじゃねえのコピペ馬鹿を判定できるし
特に中国はこの手のものがものすごく得意
チートに命かけてるところあるからなｗ
意味を損なわず書き換えろ」って指示するだけで消えちゃったりしないんかね
日立も電子透かしの技術を出してたな
google様が作ったものをフリーにするわけないよね
誤検出は絶対に無いのか
コメント