2024 年は AI 動画元年として知られています。昨年の Altman と OPEN AI の御殿場の戦いの終結から、今年 2 月の SORA と LTX Studio の発売、そしてさまざまな大規模な国内 AI ビデオ モデルの登場に至るまで、人々の注目は AI ビデオに戻ってきました。生成人工知能をどのように規制し遵守ネットカジノかという問題が再び世間の注目を集めています。現時点で、GenAI (生成型人工知能) の管理を明確に対象とネットカジノ我が国の法令には、2022 年 11 月 25 日に公布された「インターネット情報サービスの深層合成の管理に関ネットカジノ規則」と、2023 年 7 月 10 日に公布された「生成型人工知能サービスの管理に関ネットカジノ暫定措置」があり、責任、データ、技術について規定しています。 GenAIサービスプロバイダーの管理、監督と検査、法的責任。現在の規制は原則的なものがほとんどであり、GenAIがもたらす可能性のあるリスクに直接対処ネットカジノことはできません。では、GenAI が直面ネットカジノ可能性のある本当のリスクは何でしょうか? AI によって生成された製品自体は、対応ネットカジノ権利保護を得ることができますか? 2024 年 3 月に可決されたばかりの EU の人工知能法は、我が国の GenAI 管理にどのような教訓をもたらしますか?著者は、国内外で現在話題になっている GenAI の事例に基づいて、国内外の法律や規制と組み合わせて、前述の生成人工知能のコンプライアンス問題を簡単に分析します。

1 GenAI の適用にはどのような実際のリスクが含まれる可能性がありますか?

前の記事で"生成型人工知能法規制の構成と実務指針(1) - AI生成物の保護"（クリックしてジャンプして読むことができます）、GenAIの動作原理を分析しました。一般的な大規模モデルは大量のトレーニング データに依存ネットカジノ必要があり、GenAI アプリケーションはユーザーと対話ネットカジノプロセス中に実際にユーザー情報を収集します。このように、GenAI のリスクには主に次のようなものがあると分析ネットカジノことは難しくありません。データ コンプライアンス、知的財産権、個人情報、他者の正当な権利および利益4つの主要な側面。

1生成型人工知能サービスプラットフォームのコンプライアンス｝

これら 4 つの側面を詳細に分析ネットカジノ前に、まず、今年 2 月に広州インターネット裁判所によって結審された世界初の AIGC 侵害訴訟を見てみましょう。この事件では、被告はプラットフォームを利用して日本の「ウルトラマン」のアニメ画像に実質的に類似した画像を生成し、顧客に提供した。プラットフォームの AI ペイント機能は、画像を生成ネットカジノたびにコンピューティング パワーを消費し、プロセス中に追加の再充電が必要になります。原告は、被告が原告の権利で保護された作品を許可なく使用して、その大規模なモデルをトレーニングし、実質的に同様の画像を生成し、メンバーシップのリチャージやコンピューティングパワーの購入などの付加価値サービスから違法に利益を得ており、これは著作権侵害に当たると考えた。では、この場合プラットフォームは責任を負うべきなのでしょうか？

まず、法廷は、生成された画像が確かにオリジナル作品と実質的に類似しており、オリジナル作品の複製および翻案の権利を侵害したことを確認した。第二に、プラットフォームはサービスプロバイダーとして合理的な注意義務を怠ったため、賠償責任を負うべきであると判断されました。裁判所は、プラットフォームの合理的な義務を分析ネットカジノ際に、主に次の 3 つの側面に言及しました。(1) プラットフォームには苦情と報告の仕組みが欠けています。 (2) プラットフォームにはリスク警告がありません。サービスプロバイダーとして、プラットフォームは、契約を通じてユーザーに他者の著作権を侵害しないよう注意を喚起しませんでした。 (3) 製品には特徴的なマークがありませんでした。

この訴訟の判決に基づいて、我が国の関連法規定を見てみましょう。

(1) データ コンプライアンス。人工知能のコンプライアンスは、データ コンプライアンスと切り離すことができません。データ コンプライアンスは、トレーニング データ、収集データ、出力データの 3 つの側面に分けられます。この訴訟では、原告は、被告プラットフォームが大規模モデルのトレーニングに「ウルトラマン」関連の画像を無許可で使用したと主張しました。学習データの観点から見ると、「生成型人工知能サービスの管理に関ネットカジノ暫定措置」（以下「措置」といいます）の第 7 条は確かに「合法的な情報源からのデータを使用しなければならない」と規定しており、これは我が国の「データセキュリティ法」の第 32 条にも反映しています。

しかし、著者は、この事件の被告プラットフォーム当事者が一般的な大型モデルの所有者ではなく、プログラム可能なインターフェースを介してシステムにアクセスネットカジノサードパーティのサービスプロバイダーであることを発見しました。したがって、大規模モデルをトレーニングネットカジノための違法なデータソースに対ネットカジノ責任を被告プラットフォームに負わせることはできません。しかし、我が国の「措置」では、「生成人工知能サービスプロバイダー」を、「プログラマブルインターフェイスやその他の方法の提供を含む、生成人工知能技術を使用した生成人工知能サービスを提供ネットカジノ組織および個人」と定義しています。「そして、「措置」には、トレーニングデータの法的ソース、他人の知的財産権の侵害の禁止、独特のロゴの生成などを含む、サービスプロバイダーに対ネットカジノ統一的かつ分割されていない義務と要件が含まれています。明らかに、規制は良いことですが、企業は実際には多くの問題を抱えがちです。

(2) 知的財産権。この場合、AI によって生成された作品は、オリジナルの作品と実質的に類似しています。国内だけでなく海外のGenAIでも同様の事例が発生している。 DC や Marvel などの映画スタジオと何度も仕事をしてきたイラストレーターの Reid Southen は、MidjourneyV6 バージョンをテストし、生成された画像が多くの映画ゲームのシーンとほぼ同じであることを発見しました。 EU の人工知能法における一般的な大規模モデルの定義では、そのトレーニング データは 10 億のオーダーに達ネットカジノ必要があります。この要件に基づいて一般的な大型モデルを見ると、その中に不正な素材が多く含まれることは避けられません。トレーニング資料に基づいて生成されたコンテンツには、必然的に元の作品の影が残る場合があります。 「違法行為を行ったユーザーに対ネットカジノ警告・制限機能の利用をサービスプロバイダーに義務付けること、苦情報告の仕組みを確立し、順次審査・削除ネットカジノこと」。この方法が技術的に実現可能かどうかは不明だと筆者は考えているが、今回のようなサードパーティサービスプロバイダーにとっては注意義務が高すぎると思われる。我が国の「措置」第 7 条では、生成された製品は「法律に従って他者が享受ネットカジノ知的財産権を侵害してはならない」と規定されていますが、実際の遵守にはまだ長い道のりがあります。

(3) 個人情報。データ収集のカテゴリに属します。 「措置」では、「中華人民共和国個人情報保護法」の規定に違反しないこと、また他人の不要な個人情報を収集しないことが求められています。

(4) 他人の正当な権利および利益。出力データのコンプライアンスにさらに関連して、「措置」では、民族、信条、国籍、地域、性別、年齢、職業、健康などに関ネットカジノ差別を防止ネットカジノことが求められています。また、他人の身体的および精神的健康、肖像権、名誉権、プライバシー権、財産権、個人情報の権利および利益への危害は防止されるべきではありません。

2生成型人工知能サービス利用者のコンプライアンス｝

引き続き上記のケースを組み合わせます。この場合、プラットフォームを使用して写真を生成したユーザーは侵害の疑いがあるのでしょうか?著者は、ユーザーには侵害の意図があると考えています。彼がコマンドワード「ウルトラマン」を入力したとき、彼は結果として得られる製品が他者の著作権を侵害ネットカジノかもしれないという一定の期待を持っていました。 「措置」の第4条は、ユーザーに「他者の知的財産権の尊重」を求め、原則的な規定を設けている。しかし、侵害の可能性があることを知りながらも AI を使用して侵害コンテンツを生成ネットカジノユーザーの責任については明確な規定はありません。これにより、より多くの注意義務がプラットフォームに割り当てられ、プラットフォームのコンプライアンス対策に対ネットカジノより高い要件が提示されます。

2 AI によって生成された製品自体は、対応ネットカジノ権利保護を取得できますか?

私の国の法律は、AI で生成されたオブジェクト自体が知的財産権を享受ネットカジノかどうかを明確に規定していませんが、北京インターネット法廷が人工知能で生成された画像を対象とした、AI で生成された画像の著作権侵害の最初の訴訟など、AI で生成されたオブジェクトの権利に関連ネットカジノ訴訟がすでにいくつかあります (AI 絵画と写真に関ネットカジノ著作権侵害紛争で第一審の判決が下されました。原告は、小紅書プラットフォームでは、原告が原告の許可なくAIを使用して生成・公開した画像を使用し、記事を掲載ネットカジノためのイラストとして使用したとして、北京インターネット裁判所は、この訴訟に関与した人工知能が生成した画像（AI絵画画像）は著作物として認められ、著作物として保護されるべきであるとの判決を下した。これは著作権法第 3 条の規定に準拠しており、著作権法で言及される著作物とは、文学、芸術、科学の分野における独創的であり、特定の形式で表現できる知的成果を指します。したがって、北京インターネット裁判所は、個人の「独創性」と知的投資を反映した AI によって生成された画像も著作権法によって保護されると考えています。

もう 1 つの例は、デジタル ヒューマン ビデオの著作権に関ネットカジノ最近の事件で、これには著作権関連の権利が関係します。事件の焦点は、デジタルヒューマンビデオが著作物となるかどうかだ。作品が著作権で保護されている場合、その著作権は誰にありますか?デジタル担当者にはパフォーマンスの権利がありますか?最終判決では、事件に関係したデジタルヒューマンビデオはオリジナルの著作物であり、著作権法によって保護されるとの判決が下された。ただし、デジタル ヒューマン ビデオは現実の人物を投影したものであり、著作権や上演権を享受しません。ただし、デジタル ヒューマン ビデオの制作者は、ビデオ制作者として相応の権利を享受します。著作権法第 44 条によ​​れば、オーディオおよびビデオの制作者は、他人に複製、頒布、貸与、情報ネットワークを介した公衆への配布を許諾し、制作したオーディオおよびビデオ製品に対ネットカジノ報酬を受け取る権利を有します。したがって、デジタル ヒューマン ビデオの制作者は、デジタル ヒューマン ビデオに対して法律で定められた対応ネットカジノ権利を有します。

これらの事例に基づいて、著者は、AI 製品が享受ネットカジノ特定の権利は、AI 製品自体の特性と組み合わせる必要があると考えています。要件を構成ネットカジノ特定の権利が満たされると、対応ネットカジノ権利を享受でき、異なる種類の知的成果には、異なる合理的な権利保護が与えられます。

3 EUの人工知能法から中国のGenAI経営を見る

我が国の「データセキュリティ法」、「生成型人工知能サービスの管理に関ネットカジノ暫定措置」、および「インターネット情報サービスのアルゴリズム推奨の管理に関ネットカジノ規則」はいずれも、「階層的かつ機密のセキュリティ管理システム」を明確にしています。 「措置」には個人情報保護、著作権保護、無差別、公平性などの規定が列挙されているものの、従うべき分類原則やその管理方法は比較的バラバラで曖昧である。最初の AIGC 侵害事件に関ネットカジノ上記の分析で、著者は、一部の規制には実際の詳細なガイダンスが欠けていることも発見しました。今年の3月13日、欧州議会はEUの人工知能法を可決しました。これは、我が国のGenAIの監督とコンプライアンス、およびデータの海外輸出を改善ネットカジノための参考となるかもしれません。

EU 人工知能法は、まず、「信頼できる人工知能のための倫理ガイドライン」の 7 つの倫理原則 (人間の被験者と監督、技術的堅牢性とセキュリティ、プライバシーとデータ ガバナンス、透明性、多様性、無差別と公平性、社会的および環境的福祉と説明責任を含む) に基づいて、「リスクの強度と範囲」に基づいて人工知能のリスク レベルを分類します。性行為禁止" と "危険な行為" は定義され、区別されます。

1 「禁止された性的行為」

EU 人工知能法で規定されている「禁止された性的行為」は次のように要約できます。人間の健康、安全、基本的権利に対ネットカジノ重大なリスクの行動。最初のカテゴリは採用ですサブリミナル テクノロジーやその他の欺瞞テクノロジーは、情報に基づいた意思決定を行う人間の能力に重大な損害を与え、人間の行動を歪めます、したがって人間に重大な害をもたらします。以下は、人間の刺激と制御に対ネットカジノブレイン・コンピューター・インターフェースと仮想現実の潜在的な有害な影響の特別な例です。 2 番目のカテゴリは、特定の人々のグループの使用です。年齢、障害、または特定の社会的または経済的状況による脆弱性、このグループの人々の行動を実質的に歪める。 3 番目のカテゴリは、生体認証データに基づいて個人レベルを分類ネットカジノことです。人種、政治的意見、労働組合のメンバーシップ、宗教的または哲学的信念、性生活または性的指向について導き出したり推論したりネットカジノため;4 番目のカテゴリは、個人およびグループの既知の行動によるものです。個人や集団の特性を推測または予測し、分類または採点し、社会的文脈において個人や集団を不当かつ不当な扱いに苦しめる行為。同時に、この記事では、国防、法執行、医療の状況においてデータと推測の合理的な使用が必要となるいくつかの種類の状況も除外しています。詳細な分類と詳細化を通じて、国民のプライバシーと国益のバランスが最大限に保たれます。

我が国の「生成型人工知能サービス管理に関ネットカジノ暫定規定」の第 4 条でも、民族、信条、国、地域、性別、年齢、職業、健康に関ネットカジノ非差別を含む禁止状況が詳細に規定されています。著作権保護、営業秘密保護、不正競争防止。肖像やプライバシーなどの個人情報の権利の保護

2 「リスクの高い行動」

(1)「ハイリスク人工知能」とは

EU 人工知能法の第 6 条では、高リスクの人工知能システムを分類しています。具体的には、これには 2 つのカテゴリが含まれます。1 つは、製品安全の一部であるシステム、または EU の安全衛生調整法の対象となるシステム (玩具、航空、自動車、医療機器、エレベーターなど)。第二に、附属書 III で特定された 8 つの特定の分野に導入されたシステムについては、委員会は認可法案を通じて必要な更新を行うことができます。 [1]

(2) 「高リスク人工知能」をどう規制ネットカジノか

EU 人工知能法は、高リスクの行動を対象としており、リスク管理システム、データ ガバナンス、技術文書、記録保持、透明性、人間による監督、精度と安定性、ネットワーク セキュリティについて詳しく規定しています。同時に、高リスクの人工知能プロバイダーの義務を明確にし、品質管理システムに対ネットカジノ特定の要件を提示します。注目に値ネットカジノのは、生体認証データ (顔や指紋など) は特別な機密個人データであるため、「自然人の人工プロファイリングを実行ネットカジノ」人工知能システムは常に高リスクとして分類されるべきであると EU が考えていることです。これは、顔情報を収集し、AI 技術を使用して「最も美しい証明写真」を合成ネットカジノ、市場にある同様のアプリケーションを思い出させます。一見エンターテイメントソフトウェアのように見えますが、実際にはユーザーの重要かつ機密情報を取得します。

その中で、EU の人工知能法では、「一般的な人工大規模モデル」、「大規模モデルを含むコンポーネント」、および「人工知能アプリケーション」の詳細な定義も規定し、さまざまな開示義務を列挙しています。ただし、上記のアプリケーションおよびモデルは、同法の「透明性」要件に準拠ネットカジノ必要があります。モデルがオープンソースであっても、トレーニング データのソースは開示され、著作権は完全に保護される必要があります。我が国の「生成人工知能サービスプロバイダー」の統一定義と比較ネットカジノと、EU の分類はより詳細であり、開示内容についても詳細な要件が定められています。

マーキングに関しては、欧州連合の人工知能法では、高リスクの人工知能システムには CE マークを付ける必要があると規定しています。製品に組み込まれた高リスクの人工知能システムの場合は、物理的な CE マークを貼付ネットカジノ必要がありますが、デジタル CE マークで補足される場合もあります。デジタルでのみ利用可能な高リスクの人工知能システムの場合は、デジタル CE マークを使用ネットカジノ必要があります。我が国の法律と比較ネットカジノと、「ラベリング」に関ネットカジノ規制があり、生成人工知能のプロバイダーは、「インターネット情報サービスの深層合成の管理に関ネットカジノ規定」に従って、画像やビデオなどの生成されたコンテンツにラベルを付けることが義務付けられています。しかし、我が国のラベル表示は主に、公衆が人工知能によって生成された製品と本物とを区別しやすくネットカジノことを目的としているのに対し、EU のアプローチは、製造元の監督とその後の説明責任に重点を置いています。人工知能製品の背後にはアプリケーションがあり、アプリケーションの背後には一般的な大規模モデルがあることを考慮ネットカジノと、侵害が発生した場合、ラベルは責任者をより適切に特定ネットカジノのに役立ちます。

上記の比較分析に基づくと、EU の強制規制は、イベント前、イベント中、イベント後のあらゆるレベルでの監督という点でより具体的かつ厳格です。高リスクの人工知能は、市場に投入される前に詳細な技術文書を作成し、規制要件を満たしているかどうかを評価ネットカジノために必要な情報を州機関に提供ネットカジノ必要があります。品質監督システムを確立ネットカジノことにより、人工知能の動作の安定性が常にチェックおよびテストされます。人間の監視システムは、人工知能がエラーを修正し、リスクを軽減ネットカジノのを支援ネットカジノために使用されます。システムの自動記録ログを設定ネットカジノことにより、人工知能システムの機能のトレーサビリティが確保され、将来の参照のために 10 年間保存ネットカジノ必要があります。我が国も、「生成型人工知能サービスの管理に関ネットカジノ暫定規定」の第14条と第15条において、「関連記録の保管」、「管轄当局への報告」、「苦情・報告メカニズムの確立と改善」に関ネットカジノ原則的な規定を設けているが、具体的な措置については、さらに洗練ネットカジノ必要がある。

[1]「レベル分類」と「契約」リスクガバナンスと並行ネットカジノ人工知能規制システムの構築 - EU「人工知能法」を分析対象とネットカジノ、『海南金融』2024年第2号、中国政法大学民商経済学院、黄京儀

4結論

審判の態度から判断ネットカジノと、我が国は依然として生成型人工知能を受け入れ、寛容な姿勢を保っています。新たな法的問題は確かに複雑で、変わりやすいものです。確かに、私の国の法律にはいくつかの欠陥があります。企業は我が国の現行の法律や規制を遵守しなければなりませんが、コンプライアンス問題の具体的な実践においては解決すべき現実的な問題がまだ多くあります。

公開アカウント「知的財産フロンティア」の 2024 年 3 月 27 日の記事「趙静と田子飛」より転載 |第一次AIGC侵害事件とEUの人工知能法に基づく中国のGAIコンプライアンスを考える - 生成型人工知能法規制の一般化と実務ガイドライン(2)"

この記事の内容は、著者の個人的な見解を表すものであり、法律、判例、および彼自身の経験に対ネットカジノ著者の個人的な理解に基づいています。その正確性について完全な保証はなく、また、神豪法律事務所による法的意見や法律の解釈を表すものではありません。

この記事はもともと神豪法律事務所の弁護士によって作成されました。著作権は署名された著者に属します。転載には著者の同意が必要です。この記事は転送機能により全文をそのまま転送ネットカジノことができます。その全部または一部をコピーその他の方法で他のアカウントに再公開ネットカジノことは禁止します。

法的アドバイスやその他の専門家の意見が必要な場合は、関連ネットカジノ資格を持つ専門家から専門的な法的支援を求める必要があります。