Ref. Ares(2020)2922680 - 05/06/2020
Questions
I.
Problem and baseline scenario
1. What are the provisions, arrangements etc under national law addressing the
removal of terrorist content2 for preventive purposes (e.g. do you have duty of care
provisions3, specific notice and action procedures, provisions on transparency of
companies' actions in relation to the removal of terrorist content, provisions on
safeguards, etc.)? Please indicate below where relevant the applicable laws or
other legal documents.
Notice
and
action
procedures
la confiance dans l'économie numérique (LCEN), les
hébergeurs de données peuvent voir leur responsabilité
engagée à raison du stockage de contenus manifestement
promptement pour les retirer ou en rendre l'accès
impossible.
sont pas soumis à une obligation générale de surveiller
les informations qu'ils transmettent ou stockent, ni à une
obligation générale de rechercher des faits ou des
circonstances révélant des activités illicites.
Ils doivent par contre mettre en place un dispositif
facilement accessible et visible permettant à toute
personne de porter à leur connaissance les contenus les
plus préjudiciables : apologie des crimes contre
l'humanité, provocation à la commission d'actes de
terrorisme et apologie, incitation à la haine,
pornographie enfantine, incitation à la violence et
atteintes à la dignité humaine.
2
For the purpose of this questionnaire, "terrorist content" is defined as in the
Commission Recommendation of 1.3.2018 on measures to effectively tackle il egal content online
(C(2018) 1177 final). https://ec.europa.eu/digital-single-market/en/news/commission-
recommendation-measures-effectively-tackle-il egal-content-online
3
See recital 48 of the Directive on electronic commerce
https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=celex:32000L0031
2
Transparency rules
Ils ont également l'obligation, d'une part, d'informer
promptement les autorités publiques compétentes de
toutes activités illicites qui leur sont signalées dans ces
domaines et qu'exercent les utilisateurs de leurs services,
et, d'autre part, de rendre publics les moyens qu'ils
consacrent à la lutte contre ces activités.
Safeguards
Do you have specialised entities that notify/refer terrorist content to hosting
service providers? What is the legal basis and benchmark for notification/referral
(illegality of content, terms of service of hosting service provider)?
-1 de la LCEN prévoit un dispositif permettant à une autorité administrative
sp
et aux moteurs de recherches, respectivement des mesures de retrait, de blocage et de
du terrorisme et des contenus provoquant à des actes terroristes.
-direction de la lutte
contre la cybercriminalité / direction centrale de la police judiciaire/plateforme
PHAROS).
Do you consider them sufficient in terms of preventing accessibility of terrorist
content? What are the limitations?
taux de retrait sont variables selon les hébergeurs. Les hébergeurs français sont
globalement très réactifs. Des difficultés variables sont par contre rencontrées avec les
au-delà des mesures de retrait, il est important de poursuivre les
travaux engagés avec les prestataires tech
utilisation
données des signatures numériques des contenus déjà connus
dentification des auteurs des diffusions, quand elle est possible, doit rester une
facteur de dissuasion.
3
2. Do you consider that the amount of terrorist content online in the last [two] years
has overall
Decreased substantially
X
Decreased
Continued at the same level
Increased
Increased substantially
Please indicate the basis for your assessment. What do you think has contributed to
this trend?
Le nombre de contenus signalés à la plateforme nationale de traitement des contenus
net (PHAROS) dans le domaine du terrorisme avait
considérablement augmenté en 2015 dans le contexte des attentats subis par la France.
En 2016 et en 2017, en baisse, il est toutefois resté très important.
Il doit être pris en compte le fait que ces données reflètent non seulement le nombre de
contenus terroristes diffusés sur Internet, mais également la sensibilité du public à ces
contenus.
Nombre de signalements reçus par la plateforme dans le domaine du terrorisme :
en 2014 : 1675
en 2015 : 31 305
en 2016 : 11 422
en 2017 : 6 263
Nombre de contenus identifiés après recoupements :
en 2014 : 716
en 2015 : 16 558
en 2016 : 7 773
en 2017 : 4 482
3. Do you see a risk that removal by companies on their own initiative could interfere
with investigations or intelligence gathering? What would be the mitigating
measures necessary to address any such risks?
pourrait être atténuée dans une certaine
mesure par les signalements que les prestataires techniques doivent adresser aux
autorités et par la mise en place obligatoire
(espaces permettant à des hébergeurs de répliquer des co
4
des constatations).
4. Do you see a risk of erroneous removal by platforms of legal content (e.g. removal of
content misidentified as illegal, removal of content disseminated for research,
educational or journalistic purposes, "over-removal")? Are you aware of any cases of
over-removal? What would be the mitigating measures necessary to address any such
risks?
Ce risque est patent, les opér
responsabilité juridique ou de la dénonciation médiatique de leur inaction est de nature
à les inciter à supprimer des contenus licites.
La sécurité juridique des opérateurs démontrant leur volonté de lutter efficacement
contre les contenus illicites est de nature à favoriser la liberté de publication des
contenus licites.
Une sensibilisation des entreprises sur la législation en vigueur (apologie du terrorisme
-pornographiques et diffamations/injures
notamment) serait souhaitable afin de prévenir des retraits de contenus qui ne
poseraient pas de difficulté.
5
mitigating procedures, content of Terms of Service, training, capacity to detect
content in different languages)
5
Standardised working arrangements between companies, law enforcement and
Europol to enhance understanding of how platforms are abused, to improve
referral mechanism, avoiding unnecessary duplication of efforts, facilitating
requests from law enforcement agencies in relation to criminal investigations4.
5
Stronger commitment on specific proactive and preventive measures (i.e. further
development and participation in industry-led schemes, such as the database of
hashes developed in the context of the EUIF)
4
More detailed requirements on transparency and reporting
4
More detailed requirements to companies on safeguards against over-removal
5
Establishment of an external audit/monitoring mechanism
5
Establishment of contact points, both in companies and Member States, to
facilitate referrals (and feedback) and requests from law enforcement authorities
in relation to criminal investigations.
5
Additional support (e.g. by Europol) to referral capacities in Member States
en place pour centraliser et signaler les contenus illicites.
4. What other additional measures could be developed within a reinforced voluntary
approach?
la haine pour des raisons religieuses ou raciales notamment), qui créent un climat
favorable aux discours terroristes.
5. Which further actions could be taken to secure participation from those companies
who have not engaged?
Voir 6 ci-dessous
6. Which further actions could be taken to support small companies and start-ups in
tackling terrorist content online effectively? Should these be taken by larger
companies, public authorities or both?
Les carences des petites entreprises en matière de modération des contenus illicites
procèdent souvent de leurs ressources humaines limitées et de leurs ressources
insuffisantes pour mettre en place les outils de détection appropriés. La mutualisation
des moyens entre petits et grands opérateurs doit donc être encouragée.
Une incitation à la
sein des entreprises afin de faciliter le traitement humain pourrait être envisagée,
4
See point 40 of the Recommendation.
7
7. Do you think that the voluntary approach is effective and flexible enough to ensure
that companies continue their efforts in the long term? Please indicate with which
statement you would agree with:
Yes
No, it should be reinforced as presented above to obtain sufficient
guarantees
X No, it should be reinforced via legislation
Nous ne pouvons faire reposer entièrement sur le dialogue établi avec une partie des
en
-ce que pour que les
entreprises aient une compréhension exhaustive de leurs responsabilités.
III.
Legislative options
1. Why would you consider legislation necessary at this time? What would be the
concrete benefits? What risks could legislation entail?
1/ Les travaux réalisés en France dans le cadre du GCP qui réunit les services du MI,
Twitter, Apple et Microsoft) et le dialogue engagé au plan européen dans le cadre du
de Telégram).
rt de transparence incontestable de certaines entreprises sur les
relativement fournies voire complètes, pour le premier trimestre 2018, conformément
à la matrice que nous avons établie avec Europol pour arriver à la nécessaire
plusieurs de nos attentes restent insatisfaites :
8
Un texte législatif européen permettrait d'harmoniser les obligations et assurer une
égalité de traitement entre tous les opérateurs qui proposent un service sur le territoire
de l
sont
beaucoup plus réactifs).
3/ Dès lors, nous ne pouvons faire reposer entièrement sur le dialogue établi avec une
que nous menons contre les
contenus terroristes en ligne. Nous devons poser un cadre juridique clair, ne serait-ce
que pour que les entreprises aient une compréhension exhaustive de leurs
responsabilités.
au niveau UE doit être proposé : il doit viser
notamment à imposer aux entreprises, la détection proactive de contenus terroristes et
le retrait rapide de tels contenus
-
aux entreprises
des obligations de transparence
sur les méthodes de modération et les moyens affectés à cette mission, sur le modèle
de la récente loi allemande sur les contenu
Ce texte doit être un premier pas, qui prépare les évolutions législatives dont nous
avons besoin pour lutter efficacement contre les contenus illicites dans leur ensemble,
-islamiques
ou homophobes.
9
Sur ce point en effet, la politique de retrait des contenus des opérateurs (hors UE) reste
peu lisible.
2. What should be the material scope of legislation (i.e. how should terrorist content be
defined)? Do you consider that covering material inciting to commit terrorist acts
(Article 21/Article 5 of the Terrorism Directive5) is sufficient or should the
dissemination of material pursuing other terrorist purposes be included as well?
Material the dissemination of which pursues the following objectives should be
included in legislative measures:
Recruitment for terrorism
Providing training for terrorism
Terrorist financing
Other, please elaborate: voir ci-dessous
To what extent should material produced by UN/EU designated terrorist organisations
be included?
problématiques de qualification des contenus de propagande terroriste. Compte-tenu
provocation aux actes terroristes permettent de prendre les mesures administratives et
terroriste
signalés.
Un «contenu à caractère terroriste» pourrait être défini comme suit :
a.
toute information dont la diffusion constitue une infraction au sens de la
directive (UE) 2017/541 ou une infraction terroriste au sens de la législation de
membre concerné, ce qui englobe la diffusion d'informations de ce type émanant de
Nations unies, ou attribuables auxdits groupes ou entités
b.
toute information dont la diffusion facilite ou incite à la commission
5
Directive (EU) 2017/541 of the European Parliament and of the Council of 15 March
2017 on combating terrorism and replacing Council Framework Decision 2002/475/JHA and
amending Council Decision 2005/671/JHA
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32017L0541
10
Voir pj
Et
5. What should be the personal scope of the legislation? Only hosting service providers
within the meaning of the Directive on electronic commerce or other service
providers?
définition juridique de ces opérateurs doit être adaptée pour englober
entreprises concernées, compte-tenu de
Les hébergeurs ne se contentent plus de stocker les données mais sélectionnent,
référencent, classent, mettent en avant et recommandent (grâce au profilage de leurs
utilisateurs et à des algorithmes prédictifs ou de suggestion) les services et les
contenus, voire les monétisent.
sur le Web, se tr
compris) dont les activités dépassent largement le simple stockage ou le transit
Le rôle de certains hé
rôle structurant joué par certaines plateformes. Le droit doit évoluer pour prendre en
considération cette nouvelle donne.
6. Do you think smaller companies should be covered by all obligations or should they
be exempted from some of the obligations (e.g. proactive measures) but obliged by
others (e.g. time-limits after referral)? Which companies could be partially exempted
and from which obligations?
Pour le reste de la réponse, voir proposition de texte UE.
7. How do you see the impact on fundamental rights of the above-mentioned measures
and which safeguards would be necessary to avoid undue interference with
fundamental rights?
Voir proposition de texte UE
12