Dies ist eine HTML Version eines Anhanges der Informationsfreiheitsanfrage 'Interactions with Microsoft'.



Ref. Ares(2019)3109073 - 10/05/2019

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
Speaking points 
 Thank you for joining us today in Brussels.
 My  colleagues  and  I  are  keen  on  opening  a  robust  and
lasting  dialogue  with  industry,  recognising  that  the  spread
of illegal content online is a challenge with no silver bullet,
and a challenge where no one actor, be it public or private,
can  work  in  isolation.  We  certainly  need  further
cooperation  and  we  need  to  be  aligned  in  a  decisive  and
committed  fight  against  illegal  content  with  such  severe
consequences in our societies today.
 Europe, and the entire world, is threatened by despicable
terrorist attacks we have all witnessed with indignation and
grief. The Internet is still amongst the main media used for
spreading incitement to terrorism. This is also the case for
horrific crimes such as child sexual abuse, hate speech, but
also  wildlife  trafficking,  or  threats  to  intellectual  property
and consumer harm.
 Of  course  the  roots  are  deeper  than  the  mere  symptoms
we  can  see  online.  We  surely  need  to  address  the  core  of
the matter and its global dimensions.
 There is, however, an urgency to act against the spread of
such  content  online.  Illegal  content  achieves  its  harmful
impact  only  when  widely  spread  across  the  web:  it  is
important  to  stop  its  spread  as  early  as  possible.  Online
intermediaries  are  central  to  help  address  this  societal
challenge and we are calling on online platforms to do their
outmost to fight against illegal content.
Title of the briefing contribution 
2/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
 I  also  want  to  say  up‐front  that  that  Commission  is  very
much  supportive  of  the  opportunities  brought  by  online
platforms.  We  are  aware  of  the  difficulties  the  platforms
themselves are confronted with.
 We  are  mindful  of  the  delicate  balance  between  tackling
illegal  and  harmful  content,  and  the  careful  safeguards  of
users'  rights  online.  The  internet  must  remain  a  place
where freedom of expression strives. This is a fundamental
value in our democratic societies and ought to be carefully
preserved also by the tools and accountable processes put
in place to detect and take down illegal content.
 While  we  see  and  appreciate  efforts  made  by  the  bigger
platforms,  many  of  whom  are  represented  here  today,  in
proactively  detecting  and  taking  down  illegal  content,  we
are  also  aware  of  the  challenges  this  entails  especially  for
the  smaller  platforms.  This  is  one  of  the  main  points  we
want to discuss today: how can the industry work together
more effectively and how can we support the small players
in  acting  effectively  without  ruining  their  business  with
over‐burdensome expenses?
 I open the discussion here and wish to engage with you on
the best practices you have put in place, but also on how an
industry‐wide  effort  and  cooperation  can  lead  to  better
results. We all bear a responsibility towards our society and
I  hope  today's  discussion  can  lead  to  a  very  robust  and
lasting collaboration.
Title of the briefing contribution 
3/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
Line to take 
 The Commission published guidance on how to tackle illegal content online on 28
September  2017.  The  Commission  follows  an  important  objective:  to  establish  the
main  political  orientations  for  content  management  in  Europe,  in  contraposition  to
the US "hands-off" approach and censorship-like systems in authoritarian countries.
This  is  part  of  the  measures  announced  by  President  Juncker  in  his  state  of  the
Union speech to ensure the swift and proactive detection and removal of illegal
content inciting hatred, violence and terrorism

 The EU should look for a third way which:
o
ensures swift and effective removal, by outlining clear responsibilities by
online platforms
o
and  ensures  sufficient  legal  safeguards  and transparency  to  avoid  that
legal  content  is  taken  down  and  to  increase  the  accountability  of  all
actors involved.
 The existing liability exemption remains a keystone to ensure freedom of expression
online and as such is maintained.
 The Commission will announce in due time whether legislative action is needed in
the field. The Commission is concerned by the potential risk of legal fragmentation
produced by diverging national initiatives.
Title of the briefing contribution 
4/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
Background notes 
Presentation of the Communication on tackling illegal content
 The Communication outlines clear responsibilities by online platforms:
o
establish an easily accessible and user-friendly notification mechanism
o
cooperate with law enforcement and other competent authorities, including
by sharing evidence.
o
allow  trusted  flaggers  to  have  a  privileged  relationship,  while  ensuring
sufficient standards as regards training, quality assurance or safeguards.
o
use voluntary, proactive measures to detect and identify illegal content and
step up cooperation and the use of automatic detection technologies.
o
take measures against repeat infringers.
 But the Communication also ensures that a high level of protection of fundamental
rights, such as freedom of expression, is ensured:
o
Users need more transparency on the platforms' content policy and on the
outcome of the application of the notice-and-action mechanism.
o
Counter-notices  are  necessary  as  important  safeguards  against  excessive
or erroneous removal.
o
This  is  even  more  important  when  legal  content  is  taken  down  by  the
platform  unilaterally,  or  in  the  cases  of  false  positives  due  to  algorithmic
decisions.
o
The  existing  liability  exemption  remains  a  keystone  to  ensure  freedom  of
expression online and as such is maintained.
Title of the briefing contribution 
5/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
Sector dialogues with online platforms on countering specific
categories of illegal content online

 The  Commission  has  already  initiated  several  dialogues  with  different  online
platforms, which cooperate proactively in the common goal of countering illegal
content online. These efforts have already given encouraging results, but need
to continue.
EU Internet Forum: (DG JUST) 
 The EU Internet Forum was launched in December 2015 to reduce accessibility
Wrong reference 
to terrorist content online and to empower civil society partners to increase the
- DG HOME 
volume  of  effective  alternative  narratives  online.  On  6th  December  2017
initiative
companies  reported  progress:  the  consortium  of  companies  connected  to  the
Database of Hashes, announced one year ago, has tripled in size (from 4 to 12,
with  other  few  in  ongoing  negotiations  to  join);  the  database  contains  over
40.000  hashes  of  known  terrorist  images  and  videos  and  companies  have
committed  to  include  a  repository  of  Europol's  5000  videos.  There  is  a  clear
commitment  from  companies  on  automated  detection  of  terrorist  propaganda,
with  increasing  success  rates  in  the  identification  of  terrorist  content.  Some
have removed 99% of identified terrorist content by using their own tools. The
EU  Internet  Forum  has  furthermore  reached  out  and  engaged  with  over  20
companies.
 The EU Internet Referral Unit at Europol continues to flag content. Over 40,000
decisions for referral across over 80 platforms in more than 10 languages have
been triggered. On average, the content flagged for referrals has been removed
in 86% of the cases.
 Whilst  these  signs  are  indeed  encouraging,  there  is  still  a  need  for  more
detailed,  transparent  reporting.  Europol  and  the  Commission  are  putting  in
place a detailed reporting mechanisms.
 The  EU  Internet  Forum  checks  the  extent  to  which  companies  are  deploying
automated detection; the number of referrals sent by Europol is not necessarily
and  indicator  of  the  cooperation  from  the  companies  but  more  on  the  level  of
activity of various Europol Internet Referral Units.
 The Internet Forum at Ministerial level met on 6th December 2017 providing an
update on progress under the EUIF Action Plan while also identifying areas for
further  work.  On  the  Database  of  Hashes,  the  Forum  is  likely  to  push  for
increased reporting on the Database of Hashes, including its impact, and how
the  companies  will  seek  to  maximise  the  tool  in  2018.  Greater  clarity  on
automated removals by the industry will also be sought. Feedback on referrals
by the EU IRU and Member States' own referral units will also be requested.
Memorandum of Understanding on Counterfeit products: (DG GROW) 
 The  Commission  facilitates  stakeholder  dialogues  that  promote  collaborative
approaches  and  voluntary,  practical  solutions  to  better  enforce  intellectual
property rights in an evolving technological and commercial environment. In this
context,  the  Commission  facilitated  the  conclusion  of  a  Memorandum  of
Understanding  (MoU)  on  the  online  sale  of  counterfeit  goods  which  brought
Title of the briefing contribution 
6/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
together internet platforms, brand owners and trade associations. In November 
2017,  the  Commission  published  an  overview  of  the  functioning  of  the  MoU. 
The  results  are  based  on  data  obtained  in  relation  to  the  key  performance 
indicators set out in the MoU and feedback gathered from the MoU signatories. 
 The results of the work under the MoU are positive. They show that the MoU
has  effectively  contributed  to  removing  counterfeit  products  from  online
marketplaces  and  that  it  is  a  useful  forum  which  allows  trust  and  cooperation
between parties to be strengthened.
INHOPE Network (DG HOME/DG CONNECT) 
 In 2016, the INHOPE network received more than 9.3 million reports of which
over  200,000  contained  child  sexual  abuse  material  (CSAM).  The  trends
observed  in  the  2016  statistics  confirm  trends  from  previous  years  with  pre-
pubescent  children  and  girls  being  the  most  vulnerable  groups  identified  in
these images. The main hosting country is the US, followed by the Netherlands,
Canada, France, Russia and Germany. Of the 38,767 total reports confirmed as
CSAM  and  inserted  into  the  ICCAM  system*,  74%  were  removed  within  3
working days.
Code of conduct on Illegal hate speech (DG JUST) 
 In  May  2016  the  European  Commission  together  with  Facebook,  Microsoft,
Twitter and YouTube announced a Code of Conduct on countering illegal online
hate  speech.  It  includes  a  series  of  voluntary  commitments  to  combat  the
spread  of  such  content  in  Europe.  Results  of  the  evaluation  of  the  Code  of
Conduct  are  encouraging  in  terms  of  the  response  to  notifications  on  hate
speech  online  deemed  illegal  under  EU  law.  It  has  also  allowed  developing
partnership  between  these  companies,  national  authorities  and  civil  society
organisations (including broadening the "trusted flagger" system).
 The  next  important  step  is  to  promote  the  uptake  of  the  commitments  in  the
Code of Conduct by a wider group of IT platforms in the shared endeavour to
share a collective responsibility and pride in promoting and facilitating freedom
of expression throughout the online world. This action is complementary to the
core objective of ensuring that authors of illegal hate speech offences - whether
online  or  offline  -  are  effectively  prosecuted.  The  Commission  works  closely
with Member State authorities and civil society on assessing practical obstacles
to law enforcements' access to information held by IT Intermediaries needed to
investigate offences committed online.
 The  Code  of  Conduct  is  basing  its  work  in  a  series  of  qualitative  and
quantitative indicators:
o
Time  of  assessment  of  notifications  from  reception  by  platform  (-24h/-
48h/-1w/+1w/no assessment)
o
Removal rate (how many notices lead to removal)
o
Coherence  of  treatment  of  notifications  irrespective  of  the  reporting
channels:  percentage  of  notices  removed  by  the  platform/time  of
assessment, broken down by the origin of the notice (trusted flaggers or
normal user)
o
Grounds of hatred of the notified content
Title of the briefing contribution 
7/10 

SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
o
Number  of  national  contact  points  for  law  enforcement  and  other
competent authorities
o
Number  of  national  contact  points  by  IT  Platform  to  cooperate  with
national authorities
o
Number  (and  increase  over  time)  of  trusted  flagger  partners  by  IT
Company
o
Performance of automatic detection system (e.g. Average n. of analysed
cases  deriving  from  automatic  detection  compared  to  n.  of  cases
resulting from notices)
o
Qualitative  analysis  of  the  quality  of  feedback  (reference  to  terms  of
services / law)
o
Percentage of notices fol owed-up with feedback to users (broken down
by feedback to all users or feedback to trusted flagger)
o
Qualitative  analysis  of  the  quality  of  feedback  (reference  to  terms  of
services / law)
o
Regular qualitative analysis of transparency reports and progress by IT
Companies in particular re. publication of data on 1) number of notices
received per source (law enforcement/trusted flaggers/normal users); 2)
break  down  of  notices  per  type  of  illegal  content  and  including  hate
speech; 3) information on outcomes of notices and counter notices.
 The  evaluation  on  the  Code  of  conduct  is  a  continuous  process  and  most
indicators  are  monitored  on  a  regular  basis  (until  now  every  six  months).  The
results  of  a  first  evaluation  were  published  in  December  2016,  the  second  in
June  2017.  The  third  monitoring  exercise  is  taking  place  now  and  preliminary
results are expected mid-January 2018.
Consumer Protection Cooperation (CPC) Network - Joint Action on Social Media 
(DG JUST) 

 It  seeks  the  creation  of  a  "notice  and  action  procedure"  by  social  media
platforms  (Google+,  Facebook,  Twitter)  to  be  used  by  the  CPC  authorities  for
the removal of illegal content.
 It asks these companies to modify their "standard terms" of service, in order to
comply with EU consumer law
 The  action  will  be  concluded  by  the  end  of  2017.  Following  the  deadline  for
implementation,  the  CPC  Network  authorities  will  issue  a  statement  in  which
they will present in detail all the improvements and modifications that have been
achieved.
EU Wildlife trade enforcement group (DG ENV) 
It aims at:  
 Awareness of online platforms on wildlife trafficking
Title of the briefing contribution 
8/10 



SG-PDT-VPs/4511 - VP5/2018/2.01 Roundtable with CEOs of various online platforms 
Berlaymont (Robert Schuman), 9/1/2018 
Annexes:  
- Annex I: List and description of invited online platforms
- Annex II: Background document sent to invited online platforms
- Annex III: detailed agenda sent to invited online platforms
- Annex IV: CVs of participants representing online platforms (to be prepared once we
have the list of final confirmed participants)
Title of the briefing contribution 
10/10