Dies ist eine HTML Version eines Anhanges der Informationsfreiheitsanfrage 'TCO consultation'.



Ref. Ares(2020)2922680 - 05/06/2020

 
Questions 
I. 
Problem and baseline scenario 
1. What  are  the  provisions,  arrangements  etc  under  national  law  addressing  the 
removal of terrorist content2 for preventive purposes (e.g. do you have duty of care 
provisions3,  specific  notice  and  action  procedures,  provisions  on  transparency  of 
companies'  actions  in  relation  to  the  removal  of  terrorist  content,  provisions  on 
safeguards,  etc.)?  Please  indicate  below    where  relevant    the  applicable  laws  or 
other legal documents. 
Notice 
and 
action 
procedures 
la  confiance  dans  l'économie  numérique  (LCEN),  les 
hébergeurs  de  données  peuvent  voir  leur  responsabilité 
engagée à raison du stockage de contenus manifestement 
promptement  pour  les  retirer  ou  en  rendre  l'accès 
impossible. 
 
sont  pas  soumis  à  une  obligation  générale  de  surveiller 
les informations qu'ils transmettent ou stockent, ni à une 
obligation  générale  de  rechercher  des  faits  ou  des 
circonstances révélant des activités illicites.  
 
Ils  doivent  par  contre  mettre  en  place  un  dispositif 
facilement  accessible  et  visible  permettant  à  toute 
personne  de  porter  à  leur  connaissance  les  contenus  les 
plus  préjudiciables  :  apologie  des  crimes  contre 
l'humanité,  provocation  à  la  commission  d'actes  de 
terrorisme  et    apologie,  incitation  à  la  haine, 
pornographie  enfantine,  incitation  à  la  violence  et  
atteintes à la dignité humaine.  
 
                                                          

 
 For the purpose of this questionnaire, "terrorist content" is defined as in the 
Commission Recommendation of 1.3.2018 on measures to effectively tackle il egal content online 
(C(2018) 1177 final). https://ec.europa.eu/digital-single-market/en/news/commission-
recommendation-measures-effectively-tackle-il egal-content-online 

 
 See recital 48 of the Directive on electronic commerce 
 
 https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=celex:32000L0031 

 

 
Transparency rules 
Ils  ont  également  l'obligation,  d'une  part,  d'informer 
promptement  les  autorités  publiques  compétentes  de 
toutes  activités  illicites  qui  leur  sont  signalées  dans  ces 
domaines et qu'exercent les utilisateurs de leurs services, 
et,  d'autre  part,  de  rendre  publics  les  moyens  qu'ils 
consacrent à la lutte contre ces activités.  
Safeguards 
 
 
Do  you  have  specialised  entities  that  notify/refer  terrorist  content  to  hosting 
service providers? What is the legal basis and benchmark for notification/referral 
(illegality of content, terms of service of hosting service provider)? 
-1 de la LCEN prévoit un dispositif permettant à une autorité administrative 
sp
et aux moteurs de recherches, respectivement des mesures de retrait, de blocage et de 
du terrorisme et des contenus provoquant à des actes terroristes. 
-direction de la lutte 
contre  la  cybercriminalité  /  direction  centrale  de  la  police  judiciaire/plateforme 
PHAROS). 
 
 
Do  you  consider  them  sufficient  in  terms  of  preventing  accessibility  of  terrorist 
content? What are the limitations? 
taux  de  retrait  sont  variables  selon  les  hébergeurs.  Les  hébergeurs  français  sont 
globalement très réactifs. Des difficultés variables sont par contre rencontrées avec les 
 
au-delà  des  mesures  de  retrait,  il  est  important  de  poursuivre  les 
travaux  engagés  avec  les  prestataires  tech
utilisation 
données  des  signatures  numériques  des  contenus  déjà  connus
dentification  des  auteurs  des  diffusions,  quand  elle  est  possible,  doit  rester  une 
facteur de dissuasion.  
 
 
 
 

 

 
2. Do you consider that the amount of terrorist content online in the last [two] years 
has overall 
 
Decreased substantially 

Decreased 
 
Continued at the same level 
 
Increased 
 
Increased substantially 
 
Please  indicate  the  basis  for  your  assessment.  What  do  you  think has  contributed  to 
this trend?  
Le nombre de contenus signalés à la plateforme nationale de traitement des contenus 
net  (PHAROS)  dans  le  domaine  du  terrorisme  avait 
considérablement augmenté en 2015 dans le contexte des attentats subis par la France. 
En 2016 et en 2017, en baisse, il est toutefois resté très important. 
Il doit être pris en compte le fait que ces données reflètent non seulement le nombre de 
contenus terroristes diffusés sur Internet, mais également la sensibilité du public à ces 
contenus.  
Nombre de signalements reçus par la plateforme dans le domaine du terrorisme : 
en 2014 : 1675 
en 2015 : 31 305  
en 2016 : 11 422   
en 2017 : 6 263  
Nombre de contenus identifiés après recoupements : 
en 2014 : 716 
en 2015 : 16 558  
en 2016 : 7 773  
en 2017 : 4 482  
 
 
3. Do you see a risk that removal by companies on their own initiative could interfere 
with  investigations  or  intelligence  gathering?  What  would  be  the  mitigating 
measures necessary to address any such risks? 
 
pourrait être atténuée dans une certaine 
mesure  par  les  signalements  que  les  prestataires  techniques  doivent  adresser  aux 
autorités  et  par  la  mise  en  place  obligatoire 
(espaces permettant à des hébergeurs de répliquer des co

 

 
des constatations). 
4. Do you see a risk of erroneous removal by platforms of legal content (e.g. removal of 
content  misidentified  as  illegal,  removal  of  content  disseminated  for  research, 
educational or journalistic purposes, "over-removal")? Are you aware of any cases of 
over-removal? What would be the mitigating measures necessary to address any such 
risks? 
Ce  risque  est  patent,  les  opér
responsabilité juridique ou de la dénonciation médiatique de leur inaction est de nature 
à les inciter à supprimer des contenus licites.  
La  sécurité  juridique  des  opérateurs  démontrant  leur  volonté  de  lutter  efficacement 
contre  les  contenus  illicites  est  de  nature  à  favoriser  la  liberté  de  publication  des 
contenus licites. 
Une sensibilisation des entreprises sur la législation en vigueur (apologie du terrorisme 
-pornographiques  et  diffamations/injures 
notamment)  serait  souhaitable  afin  de  prévenir  des  retraits  de  contenus  qui  ne 
poseraient pas de difficulté. 
 
 
 
 

 



 
mitigating procedures, content of Terms of Service, training, capacity to detect 
content in different languages) 

Standardised  working  arrangements  between  companies,  law  enforcement  and 
Europol  to  enhance  understanding  of  how  platforms  are  abused,  to  improve 
referral  mechanism,  avoiding  unnecessary  duplication  of  efforts,  facilitating 
requests from law enforcement agencies in relation to criminal investigations4. 

Stronger commitment on specific proactive and preventive measures (i.e. further 
development and participation in industry-led schemes, such as the database of 
hashes developed in the context of the EUIF) 

More detailed requirements on transparency and reporting  

More detailed requirements to companies on safeguards against over-removal 

Establishment of an external audit/monitoring mechanism 

Establishment  of  contact  points,  both  in  companies  and  Member  States,  to 
facilitate referrals (and feedback) and requests from law enforcement authorities 
in relation to criminal investigations. 

Additional support (e.g. by Europol) to referral capacities in Member States   
en place pour centraliser et signaler les contenus illicites. 
4. What  other  additional  measures  could  be  developed  within  a  reinforced  voluntary 
approach?  
la  haine  pour  des  raisons  religieuses  ou  raciales  notamment),  qui  créent  un  climat 
favorable aux discours terroristes. 
5. Which  further  actions  could  be  taken  to  secure  participation  from  those  companies 
who have not engaged? 
Voir 6 ci-dessous 
6. Which  further  actions  could  be  taken  to  support  small  companies  and  start-ups  in 
tackling  terrorist  content  online  effectively?  Should  these  be  taken  by  larger 
companies, public authorities or both? 
Les  carences  des  petites  entreprises  en  matière  de  modération  des  contenus  illicites 
procèdent  souvent  de  leurs  ressources  humaines  limitées  et  de  leurs  ressources 
insuffisantes pour mettre en place les outils de détection appropriés. La mutualisation 
des moyens entre petits et grands opérateurs doit donc être encouragée. 
Une incitation à la 
sein  des  entreprises  afin  de  faciliter  le  traitement  humain  pourrait  être  envisagée,  
 
                                                          

 
 See point 40 of the Recommendation. 
 

 

 
7. Do  you  think  that the voluntary  approach  is  effective  and  flexible  enough to  ensure 
that  companies  continue  their  efforts  in  the  long  term?  Please  indicate  with  which 
statement you would agree with:  
 
Yes  
 
No, it should be reinforced as presented above to obtain sufficient 
guarantees 
X  No, it should be reinforced via legislation 
Nous ne pouvons faire reposer entièrement sur le dialogue établi avec une partie des 
en 
-ce que pour que les 
entreprises aient une compréhension exhaustive de leurs responsabilités. 
III. 
Legislative options 
1. Why  would  you  consider  legislation  necessary  at  this  time?  What  would  be  the 
concrete benefits? What risks could legislation entail? 
1/ Les travaux réalisés en France dans le cadre du GCP qui réunit les services du MI, 
Twitter, Apple et Microsoft) et le dialogue engagé au plan européen dans le cadre du 
de Telégram). 
rt  de  transparence  incontestable  de  certaines  entreprises  sur  les 
relativement fournies voire complètes, pour le premier trimestre 2018, conformément 
à  la  matrice  que  nous  avons  établie  avec  Europol  pour  arriver  à  la  nécessaire 
 
plusieurs de nos attentes restent insatisfaites :  

 

 
Un  texte  législatif  européen  permettrait  d'harmoniser  les  obligations  et  assurer  une 
égalité de traitement entre tous les opérateurs qui proposent un service sur le territoire 
de l
sont 
beaucoup plus réactifs).  
3/ Dès lors, nous ne pouvons faire reposer entièrement sur le dialogue établi avec une 
 que nous menons contre les 
contenus terroristes en ligne. Nous devons poser un cadre juridique clair, ne serait-ce 
que  pour  que  les  entreprises  aient  une  compréhension  exhaustive  de  leurs 
responsabilités. 
au niveau UE doit être proposé : il doit viser 
notamment à imposer aux entreprises, la détection proactive de contenus terroristes  et 
le  retrait  rapide  de  tels  contenus
-
 
aux entreprises
 des obligations de transparence 
sur les méthodes de modération et les moyens affectés à cette mission, sur le modèle 
de  la  récente  loi  allemande  sur  les  contenu
 
Ce  texte  doit  être  un  premier  pas,  qui  prépare  les  évolutions  législatives  dont  nous 
avons besoin pour lutter efficacement contre les contenus illicites dans leur ensemble, 
-islamiques 
ou homophobes.  

 

 
Sur ce point en effet, la politique de retrait des contenus des opérateurs (hors UE) reste 
peu lisible. 
 
 
 
 
  
 
2. What should be the material scope of legislation (i.e. how should terrorist content be 
defined)?  Do  you  consider  that  covering  material  inciting  to  commit  terrorist  acts 
(Article  21/Article  5  of  the  Terrorism  Directive5)  is  sufficient  or  should  the 
dissemination of material pursuing other terrorist purposes be included as well? 
Material  the  dissemination  of  which  pursues  the  following  objectives  should  be 
included in legislative measures: 
 
Recruitment for terrorism 
 
Providing training for terrorism 
 
Terrorist financing 
 
Other, please elaborate: voir ci-dessous 
 
 
To what extent should material produced by UN/EU designated terrorist organisations 
be included? 
problématiques  de  qualification  des  contenus  de  propagande  terroriste.  Compte-tenu 
provocation aux actes terroristes permettent de prendre les mesures administratives et 
  terroriste 
signalés. 
Un «contenu à caractère terroriste» pourrait être défini comme suit :  
a. 
toute  information  dont  la  diffusion  constitue  une  infraction  au  sens  de  la 
directive (UE) 2017/541 ou une infraction terroriste au sens de la législation de 
membre concerné, ce  qui englobe la diffusion d'informations de ce type  émanant de 
Nations unies, ou attribuables auxdits groupes ou entités 
b. 
toute  information  dont  la  diffusion  facilite  ou  incite  à  la  commission 
 
 
                                                           

 
 Directive (EU) 2017/541 of the European Parliament and of the Council of 15 March 
2017 on combating terrorism and replacing Council Framework Decision 2002/475/JHA and 
amending Council Decision 2005/671/JHA 
 
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32017L0541 
10 
 



 
Voir pj 
 
Et 
 
5. What should be the personal scope of the legislation? Only hosting service providers 
within  the  meaning  of  the  Directive  on  electronic  commerce  or  other  service 
providers? 
définition juridique de ces opérateurs doit être adaptée pour englober 
entreprises concernées, compte-tenu de 
 
Les  hébergeurs  ne  se  contentent  plus  de  stocker  les  données  mais  sélectionnent, 
référencent, classent,  mettent en avant et recommandent  (grâce au profilage de leurs 
utilisateurs  et  à  des  algorithmes  prédictifs  ou  de  suggestion)  les  services  et  les 
contenus, voire les monétisent.  
sur le Web, se tr
compris)  dont  les  activités  dépassent  largement  le  simple  stockage  ou  le  transit 
 
Le  rôle  de  certains  hé
rôle structurant joué par certaines plateformes. Le droit doit  évoluer pour prendre en 
considération cette nouvelle donne. 
 
 
6. Do you think smaller companies should be covered by all obligations or should they 
be  exempted  from  some  of  the  obligations  (e.g.  proactive  measures)  but  obliged  by 
others (e.g. time-limits after referral)? Which companies could be partially exempted 
and from which obligations? 
 
Pour le reste de la réponse, voir proposition de texte UE. 
7. How do you see the impact on fundamental rights of the above-mentioned measures 
and  which  safeguards  would  be  necessary  to  avoid  undue  interference  with 
fundamental rights? 
Voir proposition de texte UE 
 
12