본문으로 바로가기 주메뉴 바로가기
* 국문번역본이 없는 경우 영문본이 제공됩니다.
일반권고 제36호 (2020)
인종
인종차별철폐위원회
CERD/C/GC/36
일반권고 제36호 (2020)
인종차별철폐위원회 일반권고 제36회(2020): 법집행공무원에 의한 인종 프로파일링 방지 및 철폐
CERD GR No. 36 (2020): Preventing and Combating Racial Profiling by Law Enforcement Officials
/ 배포일 2020. 11. 24.
참고/근거 자료 :

인종차별철폐위원회 일반권고 제36호(2020): 법집행공무원에 의한 인종 프로파일링 방지 및 철폐

General recommendation No. 36 (2020) on preventing and combating racial profiling by law enforcement officials

I. 도입

I. Introduction

1. 인종차별철폐위원회는 제92차 회기에서 “오늘날의 인종차별: 인종 프로파일링, 인종 청소, 현재의 글로벌 이슈와 난제”라는 주제에 대해 논의하기로 결정했다. 이 주제로 2017년 11월 29일 제네바에서 논의가 이루어졌다. 인종 프로파일링과 인종 청소를 철폐하기 위한 현재까지의 경험, 난제, 교훈을 분석하였으며, 위원회가 영향력을 더욱 키우기 위해 인종 프로파일링과 인종 청소 철폐 관련 활동을 강화하는 방안이 논의됐다.
1. At its ninety-second session, the Committee on the Elimination of Racial Discrimination decided to hold a discussion on the theme “Racial discrimination in today’s world: racial profiling, ethnic cleansing and current global issues and challenges”. The thematic discussion took place in Geneva on 29 November 2017 and was focused on analysing the experiences, challenges and lessons learned in working to combat racial profiling and ethnic cleansing to date and on how the Committee could strengthen its work against racial profiling and ethnic cleansing, for greater impact on the ground.
2. 위원회는 논의에 이어 인종 프로파일링 방지 및 철폐에 대한 지침을 제시하는 일반권고를 제공해 각 국가가 보고 의무를 포함한 의무사항을 이행하도록 돕겠다는 의향을 표명했다. 본 일반권고는 인종차별과 싸우는 모든 이해당사자와 관련되며, 위원회는 본 일반권고를 통해 지역사회, 사람, 국가 간 민주주의, 법의 지배 및 평화와 안보를 강화하는 데 기여하고자 한다.
2. Following the discussion, the Committee expressed its intention to work on drafting a general recommendation to provide guidance on preventing and combating racial profiling in order to assist States parties in discharging their obligations, including reporting obligations. The present general recommendation is of relevance to all stakeholders in the fight against racial discrimination, and through its publication the Committee seeks to contribute to the strengthening of democracy, the rule of law, and peace and security among communities, peoples and States.
3. 위원회는 제92차 회기에서 모든 관련 당사자와 협의하여 인종 프로파일링 방지 및 철폐에 대한 일반권고에 대한 견해를 심의하기 시작했다. 1 ) 위원회는 또한 다양한 분야의 학자와 인종 프로파일링에 대한 인공지능의 함의를 강조한 토론을 했다.
3. At its ninety-eighth session, the Committee began deliberations with a view to drafting a general recommendation on preventing and combating racial profiling, in consultation with all interested parties. 2 ) The Committee also held debates with academics from various fields, with an emphasis on the implications of artificial intelligence on racial profiling.

II. 원칙 및 관행

II. Established principles and practice

4. 본 일반권고를 작성함에 있어 위원회는 법집행공무원에 의한 인종 프로파일링의 철폐에 관한 폭넓은 관행을 고려했으며, 특히 당사국 보고서 검토의 맥락과 주요 일반권고에서의 해당 관행을 고려했다. 위원회는 외국인 차별에 대한 일반권고 제30호(2004)에서 인종 프로파일링의 문제를 명시적으로 다뤘다. 위원회는 일반권고 제30호에서 각 국가가 테러 척결을 위해 취하는 모든 조치가 그 명분 또는 효력에 있어 인종, 피부색, 혈통, 국적이나 민족을 사유로 차별을 해서는 안 되며, 외국인에게 인종 또는 민족에 의한 프로파일링, 고정관념을 적용해서는 안 된다고 권고하고 있다(제10항). 위원회는 또한 형사사법제도의 기능과 행정에서의 인종차별 방지에 관한 일반권고 제31호(2005)에서 각 당사국이 사실상 신체적 외모, 피부색이나 신체적 특징, 인종이나 민족, 더 큰 혐의에 노출시키는 프로파일링에만 전적으로 기반하여 심문, 체포, 수색하는 것을 방지하는 데 필요한 조치를 취할 것을 권고하고 있다(제20항). 또한 위원회는 아프리카계에 대한 인종 차별에 관한 일반권고 제34호(2011)에서 법집행공무원, 정치인, 교육자가 인종에 기반하여 아프리카계를 대상으로 삼거나, 낙인을 찍거나, 고정관념을 적용하거나, 프로파일링하는 경향을 뿌리뽑기 위해 각 국가가 확고한 행동을 취할 것을 권고하고 있다(제31항). 인종 프로파일링과 관련된 다른 권고로는 인권 보호에 있어서의 법집행공무원 교육에 관한 일반권고 제13호(1993)가 있다. 위원회는 이 권고에서 법집행공무원이 인종, 피부색, 국가나 민족에 관한 차별 없이 모든 사람의 인권을 존중하도록 하기 위해 교육을 받아야 한다고 강조하고 있다(제2항). 위원회는 또한 선주민의 권리에 대한 일반권고 제23호(1997)에서 선주민이 어떠한 차별도 받아서는 안 되며, 특히 선주민으로서의 인종이나 정체성에 기반하여 이러한 차별을 받아서는 안 된다고 강조했으며(제4(b)항), 로마인(Roma)에 대한 차별에 관한 일반권고 제27호(2000)에서는 각 국가가 특정 상황을 고려하여 로마인에 대한 경찰력의 불법 사용을 방지하기 위한 조치를 취할 것을 권고했다. 특히 체포 및 구금과 관련하여(제13항) 이를 권고하였으며, 로마인 공동체와 경찰 간 신뢰가 구축되어야 한다고 권고하였다. 위원회는 또한 인종차별철폐협약 상 특별조치의 의미와 범위에 관한 일반권고 제32호(2009)에서 성별이나 종교에 의한 차별 등이 인종차별철폐협약 제1조에 명시된 근거에 의한 차별과 함께 적용되는 이중적 또는 다중적 차별의 상황을 다루는 “교차성”의 개념을 언급했다(제7항). 또한 인종주의적 혐오표현의 근절에 관한 일반권고 제35호(2013)도 인종 프로파일링과 관계되어 있다.
4. In drafting the present general recommendation, the Committee has taken account of its extensive practice in addressing racial profiling by law enforcement officials, primarily in the context of the review of State party reports and in key general recommendations. The Committee explicitly addressed the issue of racial profiling in its general recommendation No. 30 (2004) on discrimination against non-citizens, in which it recommended that States ensure that any measures taken in the fight against terrorism did not discriminate, in purpose or effect, on the grounds of race, colour, descent, or national or ethnic origin and that non-citizens were not subjected to racial or ethnic profiling or stereotyping (para. 10); in its general recommendation No. 31 (2005) on the prevention of racial discrimination in the administration and functioning of the criminal justice system, in which the Committee recommended that States parties take the necessary steps to prevent questioning, arrests and searches which are in reality based solely on the physical appearance of a person, that person’s colour or features or membership of a racial or ethnic group, or any profiling which exposes him or her to greater suspicion (para. 20); and in general recommendation No. 34 (2011) on racial discrimination against people of African descent, in which the Committee recommended that States take resolute action to counter any tendency to target, stigmatize, stereotype or profile people of African descent on the basis of race, by law enforcement officials, politicians and educators (para. 31). Other recommendations are also relevant to racial profiling, such as general recommendation No. 13 (1993) on the training of law enforcement officials in the protection of human rights, in which the Committee stressed that law enforcement officials should receive training to ensure they uphold the human rights of all persons without distinction as to race, colour or national or ethnic origin (para. 2); general recommendation No. 23 (1997) on the rights of indigenous peoples, in which the Committee stressed that indigenous peoples should be free from any discrimination, in particular that based on indigenous origin or identity (para. 4 (b)); general recommendation No. 27 (2000) on discrimination against Roma, in which the Committee recommended that States, taking into account their specific situations, take measures to prevent illegal use of force by police against Roma, particularly in connection with arrest and detention (para. 13), and to build trust between Roma communities and the police; general recommendation No. 32 (2009) on the meaning and scope of special measures in the Convention, in which the Committee mentioned the concept of “intersectionality”, whereby the Committee addressed situations of double or multiple discrimination – such as discrimination on grounds of gender or religion – when discrimination on such a ground appeared to exist in combination with a ground or grounds listed in article 1 of the Convention (para. 7); and general recommendation No. 35 (2013) on combating racist hate speech.
5. 위원회는 최종견해에서 법집행공무원의 인종 프로파일링 사용에 대해 반복해서 우려를 표명했고, 당사국에게 이 관행을 근절하기 위한 조치를 취할 것을 권고했다. 2 )
5. The Committee, in its concluding observations, has repeatedly expressed concern about the use of racial profiling by law enforcement officials and has recommended that States parties take measures to put an end to the practice. 3 )
6. 또한 몇 개의 다른 국제인권제도에서는 인종 프로파일링을 국제인권법 위반으로 명시하고 있다. 2009년 유엔 자유권위원회는Williams Lecraft v. Spain 3 ) 에 대한 결정을 통해 인종 프로파일링을 불법 차별로 직접적으로 인정한 최초의 조약기구가 되었다. 유엔 자유권위원회는 최근 더 많은 최종견해에서 법집행공무원이 이민지, 난민신청자, 아프리카계, 선주민, 로마인 등 소수 종교 및 인종 구성원 등 특정 집단을 대상으로 지속적인 인종 프로파일링하는 것에 대해 정기적으로 우려를 표명해 왔으며, 4 ) 유엔 고문방지위원회도 우려를 표명했다. 5 )
6. In addition, several other international human rights mechanisms have explicitly highlighted racial profiling as a violation of international human rights law. In 2009, through its decision in the case Williams Lecraft v. Spain, 4 ) the Human Rights Committee became the first treaty body to directly acknowledge racial profiling as unlawful discrimination. In more recent concluding observations, the Human Rights Committee has regularly expressed concern at the continuous practice of racial profiling by law enforcement officials, targeting in particular specific groups such as migrants, asylum seekers, people of African descent, indigenous peoples, and members of religious and ethnic minorities, including Roma; 5 ) the concern has been echoed by the Committee against Torture. 6 )
7. 2001년 남아프리카 더반에서 열린 인종주의, 인종차별, 외국인 혐오, 관련 무관용에 반대하는 세계회의에서 회원국이 채택한 더반행동계획에서는 각 국가가 “경찰 및 법집행공무원이 조사활동을 하거나 범죄활동 관여 여부를 판단함에 있어 특정인의 인종, 피부색, 혈통, 국적이나 민족에 어떠한 정도로든 의존하는 관행”에 해당하는 인종 프로파일링을 척결하기 위한 효과적인 조치를 수립, 이행, 집행할 것을 촉구하고 있다(제72항).
7. In the Durban Programme of Action, adopted by Member States at the World Conference against Racism, Racial Discrimination, Xenophobia and Related Intolerance, held in Durban, South Africa, in 2001, States were urged to design, implement and enforce effective measures to eliminate racial profiling, comprising the practice of police and other law enforcement officials relying, to any degree, on race, colour, descent or national or ethnic origin as the basis for subjecting persons to investigatory activities or for determining whether an individual was engaged in criminal activity (para. 72).
8. 2007년 유엔 인권이사회에 제출된 보고서에서 테러 대응과정에서의 인권 증진 및 보호에 관한 특별보고관은 2001년 9월 11일 이후 다수 국가의 법집행당국이 테러리스트 프로파일을 기반으로 한 조치를 도입했으며, 이는 특정인의 추정 인종, 민족, 국적, 종교 등의 특징을 포함한다고 언급했다. 특별보고관은 또한 “인종”에 기반한 테러리스트 프로파일링 관행이 인권 원칙에 위배되며, 잠재 테러리스트를 식별하는 부적절하고 비효과적인 수단이며, 테러 척결에 있어 비생산적일 수 있는 상당히 부정적인 결과를 수반했다고 강조했다. 6 )
8. In a report submitted to the Human Rights Council in 2007, the Special Rapporteur on the promotion and protection of human rights and fundamental freedoms while countering terrorism noted that, since 11 September 2001, law enforcement authorities in various States had adopted measures on the basis of terrorist profiles, which included characteristics such as a person’s presumed race, ethnicity, national origin or religion. The Special Rapporteur stressed that terrorist-profiling practices based on “race” were incompatible with human rights principles, were unsuitable and ineffective means of identifying potential terrorists, and entailed considerable negative consequences that might render such measures counterproductive in the fight against terrorism. 7 )
9. 본 일반권고는 또한 "아무도 소외되지 않고, 가장 뒤쳐진 사람을 가장 먼저 돕는다"는 가장 중요한 약속인 “지속가능발전을 위한 2030 의제”의 프레임워크 내에서 그리고 그 의제 이행에 기여하기 위하여 작성되었다. 이는 특히 국가 내 및 국가 간 불평등 해소를 위한 지속가능발전목표 10번과 지속가능한 발전을 위한 평화롭고 포용적인 사회 증진을 위한 지속가능발전목표 16번과 관련성을 지녀 모든 이를 위한 정의에 접근할 수 있게 해 주고 모든 수준에서 효과적이고 책임 있는 그리고 포용적인 제도를 구축하는 것과 관련하여 인종차별철폐위원회 업무에 중요한 시작점이자 기회를 제공한다.
9. The present general recommendation is also drafted within the framework of, and as a contribution to, the implementation of the 2030 Agenda for Sustainable Development, with its overarching commitments to leave no one behind and reach the furthest behind first, which provide critical entry points to and opportunities for the Committee’s work, particularly with regard to Sustainable Development Goal 10, on reducing inequality within and among countries, and Goal 16, on promoting peaceful and inclusive societies for sustainable development, providing access to justice for all and building effective, accountable and inclusive institutions at all levels.

III. 범위

III. Scope

10. 위원회는 특정인의 추정 인종, 피부색, 혈통, 국적, 민족과 같은 특징에 기반하여 다양한 소수집단을 대상으로 한 법집행공무원의 인종 프로파일링에 대해 자주 우려를 표명해 왔다. 위원회는 경찰관 및 국경통제관과 같은 법집행공무원이, 임무 수행 중, 자의적 경찰 검문, 자의적 신분 확인, 기차역, 기차 및 공항에서 무작위 소지품 검사와 자의적 체포에 대한 보고에 대해 우려를 표해 왔다. 7 ) 위원회는 테러와 이민에 대한 일시적 우려로 인해 인종 프로파일링이 증가하여 특정 민족에 대한 편견과 불관용을 악화시켰다는 우려를 표명했다.
10. The Committee has often expressed its concern about the use of racial profiling by law enforcement officials targeting various minority groups based on specific characteristics, such as a person’s presumed race, skin colour, descent or national or ethnic origin. The Committee has expressed concern at reports of law enforcement officials, such as police officers and border control officials, while carrying out their duties, engaging in arbitrary police stops, arbitrary identity checks, random inspections of objects in the possession of any person in railway stations, trains and airports, and arbitrary arrests. 8 ) The Committee has noted with concern that racial profiling has increased owing to contemporary concerns about terrorism and migration that exacerbate prejudice and intolerance towards members of certain ethnic groups.
11. 위원회는 이민자, 난민, 망명자, 아프리카계, 선주민, 로마인을 포함한 소수 국적 및 민족 집단과 같은 특정 집단이 인종 프로파일링에 가장 취약하다고 인식했다. 8 )
11. The Committee has recognized that specific groups, such as migrants, refugees and asylum seekers, people of African descent, indigenous peoples, and national and ethnic minorities, including Roma, are the most vulnerable to racial profiling. 9 )
12. 위원회는 또한 보안, 국경통제, 소셜서비스 접근 등의 분야에서 인공지능을 포함한 신기술 툴의 사용이 늘어나면서 인종주의, 인종차별, 외국인 혐오, 기타 형태의 소외가 심화될 가능성이 있다고 인식한다. 그러나 위원회는 본 일반권고에서 법집행공무원의 인종 프로파일링과 관련하여 알고리즘에 의한 의사결정과 인공지능에 초점을 두므로, 인공지능의 잠재적 위험성과 관련된 다수의 다른 주제는 본 일반권고의 범위에 포함되지 않는다. 위원회는 또한 일부 분야에서 인공지능이 다수의 의사결정 프로세스에서 더 큰 효과를 내는 데 기여할 수 있음을 알고 있으며, 인공지능이 법집행 맥락의 의사결정에 사용될 때 알고리즘에 기반한 편견이 존재할 실질적 위험이 있음을 인식한다. 알고리즘에 기반한 프로파일링은 심각한 우려를 야기하며, 피해자의 권리와 관련된 결과는 매우 심각할 수 있다.
12. In addition, the Committee observes that the increasing use of new technological tools, including artificial intelligence, in areas such as security, border control and access to social services, has the potential to deepen racism, racial discrimination, xenophobia and other forms of exclusion. However, in the present general recommendation, the Committee focuses on algorithmic decision-making and artificial intelligence in relation to racial profiling by law enforcement officials; therefore, many other topics related to potentially harmful artificial intelligence are outside of its scope. While aware that, in some areas, artificial intelligence can contribute to greater effectiveness in a number of decision-making processes, the Committee also realizes that there is a real risk of algorithmic bias when artificial intelligence is used in decision-making in the context of law enforcement. Algorithmic profiling raises serious concerns, and the consequences with regard to the rights of the victims could be very serious.

IV. 인종 프로파일링의 정의와 이해

IV. Defining and understanding racial profiling

13. 국제인권법에는 인종 프로파일링의 보편적 정의는 없다. 그러나 전세계 모든 지역에서 다수의 국제 및 지역 인권기구 및 기관이 인종 프로파일링의 정의를 도입했음을 일반적으로 볼 수 있다. 이 정의는 다수의 공통적 요소를 갖는다. 인종 프로파일링은 (a) 법집행당국에 의해 이루어지며, (b) 객관적 기준이나 합리적 정당화에 의한 것이 아니며, (c) 인종, 피부색, 혈통, 국적 및 민족에 근거를 기반으로 하거나, 종교나 성별, 성적 지향, 성 정체성, 장애, 연령, 이민자로서의 지위, 직업, 기타 지위 등과 같은 다른 관련 근거와 함께 교차적으로 기반하며, (d) 이민을 통제하거나 범죄활동, 테러, 법의 위반을 야기할 것으로 추정되거나 이를 야기할 수 있는 그 밖의 활동을 척결하는 등 특정한 맥락에서 사용된다.
13. There is no universal definition of racial profiling in international human rights law. However, as a persistent phenomenon in all regions of the world, various international and regional human rights bodies and institutions have adopted definitions of racial profiling, which have a number of common elements. Racial profiling is: (a) committed by law enforcement authorities; (b) is not motivated by objective criteria or reasonable justification; (c) is based on grounds of race, colour, descent, national or ethnic origin or their intersection with other relevant grounds, such as religion, sex or gender, sexual orientation and gender identity, disability and age, migration status, or work or other status; (d) is used in specific contexts, such as controlling immigration and combating criminal activity, terrorism or other activities that allegedly violate or may result in the violation of the law.
14. 인종 프로파일링은 임의적 검문, 수색, 신원 확인, 조사, 체포 등의 행동을 통해 이루어진다.
14. Racial profiling is committed through behaviour or through acts such as arbitrary stops, searches, identity checks, investigations and arrests.
15. 미주인권위원회는 인종 프로파일링을 “공공안전 및 보호의 이유로 객관적인 의혹보다는 인종, 피부색, 민족, 언어, 혈통, 종교, 국적이나 출생지, 또는 이 요인의 조합에 기반한 고정관념에 의해 도입되는 전술이자 해당 특징을 가진 사람이 특정 유형의 범죄에 관계될 경향이 있다는 잘못된 가정에 기반하여 차별적 방식으로 개인이나 집단을 선별하는 경향이 있는 전술”이라고 정의했다. 9 ) 아랍인권위원회는 인종 프로파일링을 “법집행기관이 특정인을 범죄행위에 관계되거나 관계되었음을 식별하는 기준으로서 객관적 증거나 개별적 행동보다는 추정되는 인종, 피부색, 혈통, 국적, 출생지, 국적, 민족과 관련된 일반화나 고정관념을 사용하여 차별적 의사결정을 야기하는 것”으로 정의할 수 있다고 진술했다. 10 ) 유럽인종차별위원회는 2007년 채택한 정책에서의 인종주의 및 인종차별 철폐에 관한 일반정책권고 제11호에서 인종 프로파일링을 “객관적, 합리적 정당화 없이 경찰이 인종, 피부색, 언어, 종교, 국적, 민족 등의 근거를 통제, 감시, 조사활동에 사용하는 것”으로 정의했다.
15. The Inter-American Commission on Human Rights has defined racial profiling as a tactic adopted for supposed reasons of public safety and protection motivated by stereotypes based on race, colour, ethnicity, language, descent, religion, nationality or place of birth, or a combination of these factors, rather than on objective suspicions, which tends to single out individuals or groups in a discriminatory way based on the erroneous assumption that people with such characteristics are prone to engage in specific types of crimes. 10 ) The Arab Human Rights Committee has submitted that racial profiling can be defined as the use by law enforcement agents of generalizations or stereotypes related to presumed race, colour, descent, nationality, place of birth, or national or ethnic origin – rather than objective evidence or individual behaviour – as a basis for identifying a particular individual as being, or having been, engaged in a criminal activity, resulting in discriminatory decision-making. 11 ) In its general policy recommendation No. 11 on combating racism and racial discrimination in policing, adopted in 2007, the European Commission against Racism and Intolerance defined racial profiling as the use by the police, with no objective and reasonable justification, of grounds such as race, colour, language, religion, nationality or national or ethnic origin in control, surveillance or investigative activities.
16. 2015년 유엔 자유권위원회에 제출된 보고서에서 현대적 형태의 인종주의, 인종차별, 외국인 혐오 및 이와 관련된 불관용 특별보고관은 법집행공무원에 의한 인종 및 민족 프로파일링이 “법 집행, 안보, 국경통제 인력이 특정인을 수색, 신원 확인, 조사하거나, 특정인이 범죄활동에 관련되었는지 여부를 판단하는 근거로서 인종, 피부색, 혈통, 국적, 민족에 의존하는 것”을 의미한다는 데 공통적 이해가 있음을 밝혔다. 11 )
16. In a report submitted to the Human Rights Council in 2015, the Special Rapporteur on contemporary forms of racism, racial discrimination, xenophobia and related intolerance indicated that racial and ethnic profiling by law enforcement officials was commonly understood to mean a reliance by law enforcement, security and border control personnel on race, colour, descent or national or ethnic origin as a basis for subjecting persons to detailed searches, identity checks and investigations, or for determining whether an individual was engaged in criminal activity. 12 )
17. 유엔 인권최고대표는 인종 프로파일링이 “법 집행에 있어 객관적 증거나 개별적 행동보다는 인종, 피부색, 혈통, 국적, 민족에 기반한 일반화에 의존하여 검문, 수색, 신원 확인, 조사를 할 대상을 선정하거나 특정인이 범죄활동에 관련되었는지 여부를 결정하는 과정”을 말한다고 언급했다. 이 때 인종 프로파일링은 차별적 의사결정을 야기한다. 유엔 인권최고대표는 또한 공무원 개인의 태도와 관행에서 야기되든, 법집행기관의 차별적 문화나 정책에서 야기되든 간에 인종 프로파일링은 다수 기관에서 오래 지속되어 온 관행이라고 지적했다. 12 )
17. The United Nations High Commissioner for Human Rights has stated that racial profiling refers to the process by which law enforcement relies on generalizations based on race, colour, descent or national or ethnic origin, rather than objective evidence or individual behaviour, to subject people to stops, detailed searches, identity checks and investigations, or for deciding that an individual was engaged in criminal activity. Racial profiling, then, results in discriminatory decision-making. The High Commissioner has further pointed out that, whether arising from the attitudes and practices of individual officers or the discriminatory culture or policies of law enforcement agencies, racial profiling is a long-standing practice in many agencies. 13 )
18. 본 일반권고에서는 인종 프로파일링을 더반행동계획 제72항에 명시되어 있듯이 “경찰 및 기타 법집행기관이 특정인을 조사활동의 대상으로 선정하거나 특정인이 범죄활동에 관련되었는지 여부를 판단하는 근거로서 일정 정도 인종, 피부색, 혈통, 국적, 민족에 의존하는 관행”으로 이해한다. 이 맥락에서 인종차별은 종교, 성별, 성적 지향, 성 정체성, 장애, 연령, 이민자로서의 지위, 직업, 기타 지위 등의 다른 근거와 교차되는 경우가 많다.
18. For the purposes of the present general recommendation, racial profiling is understood as it is described in paragraph 72 of the Durban Programme of Action, that is, the practice of police and other law enforcement relying, to any degree, on race, colour, descent or national or ethnic origin as the basis for subjecting persons to investigatory activities or for determining whether an individual is engaged in criminal activity. In this context, racial discrimination often intersects with other grounds, such as religion, sex and gender, sexual orientation and gender identity, disability, age, migration status, and work or other status.
19. 법집행공무원에 의한 인종 프로파일링은 또한 급습, 국경 및 세관 검문, 자택 압수수색, 감시 대상 선정, 법 및 질서 또는 이민 관련 결정을 유지하거나 재정립하기 위한 운영을 포함할 수 있다. 이 행위는 거리에서의 경찰 활동과 테러방지 활동의 맥락에서 다양하게 발생할 수 있다. 13 )
19. Racial profiling by law enforcement officials may also include raids, border and custom checks, home searches, targeting for surveillance, operations to maintain or re-establish law and order or immigration decisions. These actions may variously take place in the context of street policing and antiterrorism operations. 14 )
20. 인종 프로파일링은 고정관념 및 편견과 관련되어 있다. 고정관념과 편견은 의식적이거나 무의식적일 수 있고, 개인적 또는 제도적일 수도 있으며, 구조적일 수 있다. 유형화(stereotyping)는 고정관념적 가정이 실행되어 인권을 침해할 때 국제인권법 위반에 해당한다. 14 )
20. Racial profiling is linked to stereotypes and biases, which can be conscious or unconscious, and individual or institutional and structural. Stereotyping becomes a violation of international human rights law when stereotypical assumptions are put into practice to undermine the enjoyment of human rights. 15 )

V. 인종차별철폐협약 상의 원칙과 일반 의무

V. Principles and general obligations under the Convention

21. 법집행공무원에 의한 인종 프로파일링 관행의 파악, 방지 및 철폐는 인종차별철폐협약의 목적 달성에 필수적이다. 법집행공무원에 의한 인종 프로파일링 관행은 다음과 같은 인권의 기본원칙에 위반된다.: (a) 인종, 피부색, 혈통, 국적이나 민족, 기타 교차 근거에 기반한 차별 금지. (b) 법 앞에 평등. 이는 또한 적법절차와 공정한 재판을 받을 권리를 침해할 수 있다. 이 원칙과 권리는 세계인권선언(제2조 및 제7조) 및 인종차별철폐협약(제2조 및 제5조 (a)항)을 지탱한다.
21. The identification, prevention and combating of the practice of racial profiling by law enforcement officials is integral to the achievement of the objectives of the International Convention on the Elimination of All Forms of Racial Discrimination. The practice of racial profiling by law enforcement officials violates fundamental principles of human rights, which rest on: (a) non-discrimination based on grounds of race, colour, descent, or national or ethnic origin, or other intersecting grounds; and (b) equality before the law. It may also violate due process and fair trial rights. These principles and rights are the anchors of the Universal Declaration of Human Rights (arts. 2 and 7) and the Convention (arts. 2 and 5 (a)).
22. 인종차별철폐협약 전문에서는 모든 인간은 법 앞에 평등하며, 모든 차별, 그리고 차별의 조장으로부터 동등한 법의 보호를 받을 자격이 있다고 강조하고 있다. 인종 프로파일링이라는 용어가 인종차별철폐협약에 명시적으로 언급되지는 않았으나, 위원회는 인종 프로파일링 관행을 알아내고, 인종차별철폐협약에 명시된 기준과 인종 프로파일링 간 관계를 고찰해 왔다.
22. In the preamble to the Convention it is emphasized that all human beings are equal before the law and are entitled to equal protection of the law against any discrimination and against any incitement to discrimination. While the term racial profiling is not explicitly referred to in the Convention, this has not impeded the Committee from identifying racial profiling practices and exploring the relationship between racial profiling and the standards set out in the Convention.
23. 인종차별철폐협약 제2조에 따라 각 국가는 특정인, 집단, 기관에 대한 인종차별 행위나 관행에 관련되지 않아야 하며, 모든 국가 및 지역 공공당국 및 기관이 이 의무를 이행하도록 하여야 한다. 인종 프로파일링은 인종주의적 분쟁과 편견, 고정관념을 강화하고 영속시킬 가능성이 있는 관행이므로, 15 ) 이는 인종차별철폐협약의 핵심 사상에 역행한다. 따라서 당사국은 인종 프로파일링이 발생하지 않도록 하고, 촉진되지 않도록 하는 관점으로 정책과 법규를 검토할 의무를 갖는다. 당사국은 법, 정책 및 제도를 통해 차별을 철폐하기 위해 적극적인 조치를 취할 의무를 갖는다. 인종 프로파일링에 관계되는 것을 금지하는 개념과 공공당국 및 기관이 인종 프로파일링 관행을 적용하지 않도록 하는 의무는 인종차별철폐협약 제5조에서 유래한다. 인종 프로파일링 관행은 인종, 피부색, 국적, 민족과 관련된 구별 없이 모든 이가 법 앞에 평등하고 동등한 대우를 받을 권리에 위배된다. 또한 인종 프로파일링은 이동의 자유 등 그 밖의 시민권의 동등한 보장에 위배된다.
23. Under article 2 of the Convention, each State undertakes to engage in no act or practice of racial discrimination against persons, groups of persons or institutions and to ensure that all public authorities and institutions, national and local, act in conformity with this obligation. As racial profiling is a practice that has the potential to promote and perpetuate racist incidents and racial prejudice and stereotypes, 16 ) it runs counter to the very idea of the Convention. Accordingly, States parties are obliged to review their policies, laws and regulations with a view to ensuring that racial profiling does not take place and is not facilitated. States parties are obliged to actively take steps to eliminate discrimination through laws, policies and institutions. The prohibition on engaging in acts of racial profiling and the obligation to ensure that public authorities and institutions do not apply practices of racial profiling are furthermore derived from article 5 of the Convention. The practice of racial profiling is incompatible with the right of everyone, without distinction as to race, colour, or national or ethnic origin, to equality before the law and to equal treatment. It is, furthermore, incompatible with the non-discriminatory guarantee of other civil rights, such as the right to freedom of movement.
24. 인종차별철폐협약 제6조에 의해 당사국은 관할지역 내 모든 사람이 모든 인종차별 행위로부터 효과적으로 보호받도록 할 의무를 지닌다. 따라서 당사국은 공공당국 및 공공기관이 인종 프로파일링 관행에 관계되지 않도록 하기 위해 예방적 조치를 취해야 한다. 제6조에서는 또한 당사국에게 관할지역 내 모든 사람이 모든 인종차별 행위로부터 효과적으로 구제되도록 할 의무를 지운다. 당사국은 인종 프로파일링이 발생했다고 주장할 수 있고 그러한 관행을 척결할 수 있도록 국내법 체계에서 적절하고 효과적인 메커니즘을 수립할 것을 보장할 의무가 있다. 당사국은 또한 인종 프로파일링의 형태로 인종차별이 이루어진 결과로 발생한 피해에 대해 공정하고 적절한 배상 또는 만족을 요구할 권리를 보장하여야 한다. 당사국은 이 권리가 효과적인 방식으로 이행될 수 있도록 하여야 한다. 인종 프로파일링이 특정 집단에 소속된 사람에게 정기적으로 영향을 미친다는 사실을 감안하여 당사국이 인종 프로파일링의 맥락에서 권리의 집단적 이행을 위한 메커니즘을 구축하는 안을 고려할 것을 장려한다.
24. Under article 6 of the Convention, States parties have an obligation to assure to everyone within their jurisdiction effective protection against any acts of racial discrimination. Accordingly, States parties must take preventive measures in order to ensure that public authorities and public institutions do not engage in practices of racial profiling. Article 6 also requires States parties to ensure to everyone within their jurisdiction effective remedies against any act of racial discrimination. States parties are obliged to ensure that their domestic legal order contains adequate and effective mechanisms through which to assert that racial profiling has taken place and to bring such a practice to an end. States parties must furthermore guarantee the right to seek just and adequate reparation or satisfaction for damage suffered as a result of racial discrimination in the form of racial profiling. They must ensure that this right can be enforced in an effective manner. In light of the fact that the practice of racial profiling regularly affects members of a particular group or groups, States parties are encouraged to consider establishing mechanisms for the collective enforcement of rights in the context of racial profiling.
25. 인종차별철폐협약 제7조에서는 인종차별 철폐에 있어 교육, 문화 및 정보의 역할을 강조하고 있다. 인종 프로파일링과 관련하여 인종차별 행위에 관련되지 않아야 한다는 당사국의 의무 이행은 공공당국과 공공기관의 행위에 달려 있다. 따라서 특히 국가법을 집행하는 공무원이 본인의 의무에 대해 제대로 인식하고 있는 것은 매우 중요하다. 16 ) 인종 프로파일링은 공공당국 및 공공기관의 잘 확립되고 도전받지 않은 관행의 결과인 경우가 많으므로, 당사국은 국가 법 집행 공무원이 인종 프로파일링 관행에 관여하지 않는 방법을 충분히 숙지하도록 해야 한다. 이와 같이 인식을 높이면 인종 프로파일링 관행이 이루어지는 것을 방지하고, 관행이 확립되었다 해도 이를 근절하는 데 도움이 될 수 있다. 따라서 당사국은 법 집행 관련 공공당국 및 기관의 인력이 적절한 교육을 받아 인종 프로파일링 관행에 관계되지 않도록 하여야 한다.
25. Article 7 of the Convention highlights the role of teaching, education, culture and information in combating racial discrimination. With regard to racial profiling, the fulfilment of the obligation of States parties not to engage in acts of racial discrimination depends upon the conduct of public authorities and public institutions. It is therefore of paramount importance that national law enforcement officials in particular are properly informed of their obligations. 17 ) Since racial profiling is often the result of well-established and unchallenged practices of public authorities and public institutions, States parties must ensure that national law enforcement officials are sufficiently aware of how to avoid engaging in practices of racial profiling. Raising such awareness can help to prevent the implementation of racial profiling practices and to overcome them where they are entrenched. Accordingly, States parties should ensure that the personnel of public authorities and institutions who engage in law enforcement are properly trained to ensure that they do not engage in practices of racial profiling.

VI. 인종 프로파일링의 결과

VI. Consequences of racial profiling

26. 인종 프로파일링은 개인과 공동체의 태도와 복지에 부정적이며 누적된 영향을 미친다. 17 ) 사람은 일상 속에서 인종 프로파일링의 정기적 대상이 될 수 있기 때문이다. 인종 프로파일링의 피해자는 효과적인 구제책이나 회복될 수 있는 수단이 부족하여 인종 프로파일링의 영향을 축소해서 말하고, 이를 내면화하는 경우가 많다. 인종 프로파일링은 불법일 뿐 아니라 일반적 법 집행 수단으로서 비효과적이고 비생산적일 수 있다. 자신이 차별적 법 집행의 대상이었음을 인식하는 사람은 법 집행에 대한 신뢰도가 낮아지게 되고, 그 결과 협력하고자 하는 의지가 약해지는 경향으로 잠재적으로 법 집행의 효과가 제한될 가능성이 있다. 인종 프로파일링 관행은 법 집행의 일상 업무에 영향을 미치며, 의식적인 행위를 통해서건 무의식적 행위를 통해서건 그 영향을 받은 공동체에 속한 범죄의 피해자를 지원할 역량을 약화시킨다. 불의와 굴욕감, 법 집행에 대한 신뢰 상실, 2차 피해, 보복에 대한 공포, 법적 권리나 지원에 대한 제한된 정보 접근으로 인해 범죄 보고가 줄어들고, 정보활동을 위한 정보가 줄어들 수 있다.
26. Racial profiling has negative and cumulative effects on the attitudes and well-being of individuals and communities, 18 ) given that a person may be regularly subjected to racial profiling in his or her daily life. Victims of racial profiling often understate and interiorize its impact in the face of a lack of effective remedies and restorative tools. In addition to being unlawful, racial profiling may also be ineffective and counterproductive as a general law enforcement tool. People who perceive that they have been subjected to discriminatory law enforcement actions tend to have less trust in law enforcement and, as a result, tend to be less willing to cooperate, thereby potentially limiting the effectiveness of law enforcement. Racial profiling practices influence daily routines of law enforcement and undermine, whether through conscious or unconscious actions, the capacity to support victims of crimes belonging to the affected communities. A sense of injustice and humiliation, the loss of trust in law enforcement, secondary victimization, fear of reprisals and limited access to information about legal rights or assistance may result in reduced reporting of crimes and reduced information for intelligence purposes.
27. 인종 프로파일링과 증오표현은 긴밀한 상호연관성을 가지며, 위원회는 이 두 가지 형태의 차별을 동시에 언급한 경우가 많았다. 18 ) 인종 또는 민족에 대한 증오에 기반한 사상의 확산, 언론에서의 지속적인 증오표현 사용, 공무원의 인종차별주의 정치 담론 사용은 법집행공무원에 의한 차별과 고정관념을 악화시킨다. 증오표현의 대상이 되는 민족 집단은 인종 프로파일링의 대상이 될 것이다. 또한 법 집행에 의한 인종 프로파일링은 인종차별에 직면한 집단이 범죄를 저지르는 경향이 더 높다고 묘사하여 공공 담론에 영향을 미치고, 인종차별주의적 증오 확산을 촉진할 것이다.
27. Racial profiling and hate speech are closely interrelated, and the Committee has often addressed those two forms of discrimination simultaneously. 19 ) The dissemination of ideas based on racial or ethnic hatred, the persistent use of hate speech in the media and the use of racist political discourse by public officials exacerbate discrimination and stereotyping by law enforcement officers. Ethnic groups that are subjected to hate speech will also become targets of racial profiling. Moreover, racial profiling by law enforcement portrays groups that face racial discrimination as more prone to commit crimes, which will influence the public discourse and increase the dissemination of racist hatred.
28. 인종 프로파일링은 또한 사람의 시민적 및 정치적 권리의 향유에 부정적인 영향을 미칠 수 있다. 이는 생존권(시민적 및 정치적 권리에 관한 국제규약 제6조), 자유 및 안전을 누릴 권리(제9조), 사생활을 누릴 권리(제17조), 이동의 자유를 누릴 권리(제12조), 집회의 자유를 누릴 권리(제22조), 효과적인 구제를 받을 권리(제2조 (3)항)를 포함한다.
28. Racial profiling may also have a negative impact on people’s enjoyment of civil and political rights, including the rights to life (article 6 of the International Covenant on Civil and Political Rights), liberty and security of person (art. 9), privacy (art. 17) and liberty of movement (art. 12), freedom of association (art. 22) and to an effective remedy (art. 2 (3)).
29. 인종 프로파일링은 경제적, 사회적 및 문화적 권리의 완전한 향유에도 영향을 미칠 수 있다. 이는 적절한 주택에 거주할 권리(경제적, 사회적 및 문화적 권리에 관한 국제규약 제11조), 건강에 대한 권리(제12조), 교육을 받을 권리(제13조, 제14조), 일할 권리(제6조)를 포함한다. 19 )
29. The full enjoyment of people’s economic, social and cultural rights, such as the right to adequate housing (article 11 of the International Covenant on Economic, Social and Cultural Rights), health (art. 12), education (arts. 13–14) and work (art. 6), could also be affected by racial profiling. 20 )
30. 법집행공무원에 의한 인종 프로파일링은 사법시스템, 특히 형사사법시스템의 모든 수준의 행정에서 지대한 영향을 미친다. 인종 프로파일링은 다음과 같은 결과를 야기할 수 있다.: (a) 인종차별철폐협약에 의해 보호받는 특정 범주에 속하는 사람의 과잉범죄화, (b) 범죄와 민족성 간의 관련성에 대한 잘못된 고정관념의 강화와 남용적인 운영 관행의 구축, (c) 인종차별철폐협약에 의해 보호받는 집단의 불균형한 구금률, (d) 인종차별철폐협약에 의해 보호되는 집단에 속한 사람이 법집행공무원에 의한 권력이나 권한 남용에 더욱 취약한 현상, (e) 인종차별과 증오범죄 행위의 불충분한 보고, (f) 법원이 대상이 되는 공동체 구성원에 대해 더 무거운 판결을 내리는 현상.
30. Racial profiling by law enforcement officials has far-reaching consequences at all levels of administration of the justice system, particularly in the criminal justice system. Racial profiling can lead to, among other things: (a) the overcriminalization of certain categories of persons protected under the Convention; (b) the reinforcement of misleading stereotypical associations between crime and ethnicity and the cultivation of abusive operational practices; (c) disproportionate incarceration rates for groups protected under the Convention; (d) the higher vulnerability of persons belonging to groups protected under the Convention to abuse of force or authority by law enforcement officials; (e) the underreporting of acts of racial discrimination and hate crimes; and (f) the handing down by courts of harsher sentences against members of targeted communities.

VII. 알고리즘에 의한 프로파일링과 인종 편견 및 차별

VII. Algorithmic profiling and racial bias and discrimination

31. 빠른 기술 발전으로 인해 법집행공무원이 알고리즘에 기반한 프로파일링으로 판단하거나 정보를 얻는 경우가 늘어나고 있다. 20 ) 이는 빅데이터, 자동화된 의사결정, 인공지능 툴 및 방법이 포함될 수 있다. 21 ) 이와 같은 발전으로 법집행공무원의 결정과 행동의 정확성, 효과 및 효율성이 높아질 가능성은 있지만, 차별적 관행을 악화시키거나 야기할 가능성, 또는 편견을 재생산하고 강화할 가능성도 존재한다. 22 ) 알고리즘에 기반한 분석과 의사결정의 불분명함을 감안할 때, 특히 인공지능 방식이 적용될 때 알고리즘에 기반한 프로파일링의 차별적 결과물은 인간이 내리는 결정에 비해 명확성이 떨어지고 감지하기 어려우며, 따라서 이의를 제기하기도 더 힘들다. 23 ) 또한 인권 옹호자는 이와 같은 차별적 방법을 파악하기 위한 적절한 기술적 준비가 되어 있지 않은 경우가 일반적이다.
31. Owing to rapid advances in technological development, the actions of law enforcement officials are increasingly determined or informed by algorithmic profiling, 21 ) which may include big data, automated decision-making and artificial intelligence tools and methods. 22 ) While such advances have the potential to increase the accuracy, effectiveness and efficiency of the decisions and actions of law enforcement officials, there is a great risk that they may also reproduce and reinforce biases and aggravate or lead to discriminatory practices. 23 ) Given the opacity of algorithmic analytics and decision-making, in particular when artificial intelligence methods are employed, discriminatory outcomes of algorithmic profiling can often be less obvious and more difficult to detect than those of human decisions and thus more difficult to contest. 24 ) In addition, human rights defenders generally are not adequately equipped technologically to identify such discriminatory methods.
32. 편견이 알고리즘에 의한 프로파일링 시스템에 깊이 뿌리내릴 수 있는 여러 진입점이 있다. 이는 시스템이 설계되는 방식, 시스템이 교육되는 데이터세트의 범위와 기원에 대한 결정, 개발자가 해당 데이터세트에 심어놓을 수 있는 사회문화적 편견, 인공지능 모델 자체, 인공지능 모델의 결과물이 실행되는 방식을 포함한다. 24 ) 특히 다음의 데이터 관련 요소는 부정적 결과에 기여할 수 있다.: (a) 사용되는 데이터가 보호받는 특성과 관련된 정보를 포함한다. (b) 프록시 정보가 데이터에 포함된다. 예컨대 도시의 인종 차별 구역과 관련된 우편번호는 종종 간접적으로 인종이나 민족을 나타낸다. (c) 사용된 데이터가 집단에 대한 편견에 기반한다. 25 ) (d) 사용된 데이터가 저품질이다. 이는 불충분하게 선정되었거나, 불완전하거나, 올바르지 않거나, 오래된 정보 등을 포함한다. 26 )
32. There are various entry points through which bias could be ingrained into algorithmic profiling systems, including the way in which the systems are designed, decisions as to the origin and scope of the datasets on which the systems are trained, societal and cultural biases that developers may build into those datasets, the artificial intelligence models themselves and the way in which the outputs of the artificial intelligence model are implemented in practice. 25 ) In particular, the following data-related factors may contribute to negative outcomes: (a) the data used include information concerning protected characteristics; (b) so-called proxy information is included in the data, for example, postal codes linked to segregated areas in cities often indirectly indicate race or ethnic origin; (c) the data used are biased against a group; 26 ) and (d) the data used are of poor quality, including because they are poorly selected, incomplete, incorrect or outdated. 27 )
33. 특정 지역, 집단, 개인의 범죄활동 가능성을 판단할 때 알고리즘에 기반한 프로파일링이 사용되면 특정한 위험이 대두된다. 가능한 미래 사건을 예측하기 위해 과거 데이터에 의존하는 예측적 경찰활동은 차별적 결과로 이어지기 쉽고, 특히 사용된 데이터세트가 상기에 명시된 한 가지 이상의 오점을 가질 때 더욱 그러하다. 27 ) 예컨대 특정 마을에서의 과거 체포 이력은 인종적 편견에 기반한 경찰 관행을 반영할 수 있다. 예측적 경찰활동 모델에 해당 데이터를 적용할 경우 편향된 방향으로 미래 예측이 이루어질 위험이 있으며, 그 결과 해당 마을에 대한 과도한 경찰활동으로 해당 마을에서 체포 건수가 더 높아질 수 있다. 위험한 피드백 루프(feedback loop)가 형성되는 것이다.
33. Particular risks emerge when algorithmic profiling is used for determining the likelihood of criminal activity either in certain localities, or by certain groups or even individuals. Predictive policing that relies on historical data for predicting possible future events can easily produce discriminatory outcomes, in particular when the datasets used suffer from one or more of the flaws described above. 28 ) For example, historical arrest data about a neighbourhood may reflect racially biased policing practices. If fed into a predictive policing model, use of these data poses a risk of steering future predictions in the same, biased direction, leading to overpolicing of the same neighbourhood, which in turn may lead to more arrests in that neighbourhood, creating a dangerous feedback loop.
34. 사법시스템에도 유사한 메커니즘이 존재하는 것으로 보고되어 왔다. 28 ) 제재를 가하거나 누군가의 구속, 보석 석방 및 다른 처벌 여부를 결정할 때 국가는 알고리즘에 기반한 프로파일링의 사용에 점차 더 의존하고 있다. 이는 특정인이 향후 1건 또는 여러 건의 범죄를 저지를 가능성을 예측하기 위한 것이다. 당국은 특정인과 그 가족 및 친구의 범죄이력에 대한 정보를 수집하고, 이들의 직업, 학력을 포함한 사회적 상황에 대한 정보를 수집한다. 이는 통상적으로 기밀로 유지되는 알고리즘이 부여한 점수로부터 특정인의 “위험” 정도를 평가하기 위함이다. 이와 같은 알고리즘에 기반한 프로파일링의 사용은 상기 제33항에 명시된 바와 유사한 우려를 야기한다.
34. Similar mechanisms have been reported to be present in judicial systems. 29 ) When applying a sanction, or deciding whether someone should be sent to prison, be released on bail or receive another punishment, States are increasingly resorting to the use of algorithmic profiling, in order to foresee the possibilities that an individual may commit one or several crimes in the future. Authorities gather information regarding the criminal history of the individual, their family and their friends and their social conditions, including their work and academic history, in order to assess the degree of “danger” posed by the person from a score provided by the algorithm, which usually remains secret. This use of algorithmic profiling raises concerns similar to those described in paragraph 33 above.
35. 특정 인구집단을 추적하고 통제하기 위한 안면인식 및 감시기술의 사용이 증가하면서 사생활, 평화집회 및 결사의 자유, 표현의 자유, 이동의 자유를 누릴 권리를 포함한 다수의 인권 관련 우려사항이 제기되고 있다. 이는 얼굴 형상(facial geometry)을 기반으로 개인을 자동 식별할 수 있도록 설계되어 있어 29 ) 인종, 피부색, 국적, 민족 또는 성별 등의 차별 근거를 기준으로 사람을 프로파일링할 가능성이 있다. 30 ) 개인 표시(flagging) 및 추적을 위해 실시간 안면인식 기술을 탑재한 카메라가 널리 사용되고 있어 31 ) 각국 정부 및 기타 당국이 보호받는 특성에 기반하여 다수 개인의 이동 기록을 보유할 수 있다. 32 ) 더구나 안면인식 기술의 정확성은 평가되는 피부색, 민족 또는 성별에 따라 달라질 수 있어 차별을 야기할 수 있는 것으로 입증되었다. 33 )
35. The increasing use of facial recognition and surveillance technologies to track and control specific demographic groups raises concerns with respect to many human rights, including the right to privacy, freedom of peaceful assembly and association, freedom of expression and freedom of movement. It is designed to automatically identify individuals based on their facial geometry, 30 ) potentially profiling people based on grounds of discrimination such as race, colour, national or ethnic origin or gender. 31 ) Cameras equipped with real-time facial recognition technology are widely applied for the purpose of flagging and tracking of individuals, 32 ) which may enable Governments and others to keep records of the movements of large numbers of individuals, possibly based on protected characteristics. 33 ) Moreover, it has been demonstrated that the accuracy of facial recognition technology may differ depending on the colour, ethnicity or gender of the persons assessed, which may lead to discrimination. 34 )
36. 일부 사례에서 알고리즘은 개인의 민족이나 국적을 판단하기 위한 DNA 테스트에 적용되고 있다. 해당 DNA 테스트의 결과는 프로파일링을 야기할 수 있다. 위원회는 과학계의 합의된 견해에 따라 개인의 DNA 구성과 인종 또는 민족 간의 직접적 연관성이 없다는 점에 주목한다. 따라서 위원회는 각 국가 및 법집행당국이 특히 국경 경비에 DNA 프로파일링을 사용하는 것을 규탄한다. 또한 법집행당국은 특정 소수 민족이 폭력적인 경향이 있다는 허위 주장을 하기 위해 DNA 프로파일링 결과를 사용해 왔으며, 따라서 해당 집단은 차별적 경찰 관행을 적용 받았다. 34 )
36. In some instances, algorithms are being employed in DNA testing to determine the ethnicity or nationality of individuals. The results of such DNA testing can lead to profiling. The Committee notes, in line with consensus among the scientific community, that there are no direct linkages between an individual’s DNA composition and their ethnicity or nationality. Therefore, the Committee condemns the use of DNA profiling by States and law enforcement authorities, especially border security. Additionally, results of DNA profiling have been used by law enforcement authorities to make false claims that certain ethnic minorities are more prone to violence and, in turn, those groups have been subjected to discriminatory police practices. 35 )

VIII. 권고사항

VIII. Recommendations

37. 인종 프로파일링의 문제를 해결하기 위해 각국 정부, 법집행기관 및 시민단체가 다양한 전략을 도입해 왔다. 위원회는 해당 전략이 각 국과 그 밖의 주체를 위한 권고의 근거를 제시해 주고 있다고 본다.
37. A variety of strategies have been adopted by Governments, law enforcement agencies and civil society organizations to counter the problem of racial profiling. The Committee is of the view that those strategies provide the basis for its recommendations to States and other actors.

A. 입법 및 정책 관련 조치

A. Legislative and policy-related measures

38. 인종차별을 철폐하기 위한 전제조건으로, 추가 조치에 영향을 미치지 않고, 민법, 행정법 및 형법을 포함한 포괄적인 입법은 인종 프로파일링을 효과적으로 척결하기 위해 필수불가결하다. 각 국가는 법집행공무원에 의한 인종 프로파일링을 정의하고 이를 금지하는 법 제정과 정책을 수립해야 하며 이를 효과적으로 이행해야 한다. 해당 조치는 법집행당국의 명확한 지침이 동반되어 표준운영절차와 행동강령을 포함한 내부 정책이 인권 기준 및 원칙에 부합하도록 하여야 한다. 각 국가는 또한 인종 프로파일링을 잠재적으로 가능하게 하거나 촉진할 수 있는 법규에 대해 인지하고, 해당 법을 파악하여 개정하거나 폐지하기 위해 연구를 시행해야 한다.
38. As a prerequisite, and without prejudice to further measures, comprehensive legislation against racial discrimination, including civil and administrative law as well as criminal law, is indispensable to combating racial profiling effectively. States should develop and effectively implement laws and policies that define and prohibit racial profiling by law enforcement officials. Such measures should be accompanied by clear guidance for law enforcement agencies, ensuring that internal policies, including standard operating procedures and codes of conduct, are in line with human rights standards and principles. States should also be aware of laws and regulations that potentially enable or facilitate racial profiling. They should conduct studies to identify such laws and amend or repeal them accordingly.
39. 인종 프로파일링을 방지하기 위해 각 국가는 법집행기관이 관련 집단과 협의하여 정확한 기준이 있는 검문 및 수색 관행 상세지침을 구축하도록 해야 한다. 각 국가는 내ㆍ외부 모니터링 메커니즘을 구축하고, 잘못된 행위에 대해 징계조치를 구상하여야 한다. 또한 독립 전문가의 도움을 받아 정기 감사를 시행하여 내부정책과 관행 간 격차를 파악해야 한다. 해당 절차의 결과는 투명해야 한다. 그래야 법 집행 책임성을 강화하고, 대상이 되는 개인과 공동체의 신뢰를 얻을 수 있기 때문이다.
39. States should ensure that law enforcement agencies develop, in consultation with relevant groups, detailed guidelines for stop-and-search practices with precise standards, in order to prevent racial profiling. They should establish effective, independent monitoring mechanisms, both internal and external, and envisage disciplinary measures for application in cases of misconduct. They should also carry out periodic audits, with the help of independent experts, to identify gaps in internal policies and practices. Transparency around the outcomes of such procedures is strongly recommended, as it may strengthen law enforcement accountability and trust among targeted individuals and communities.
40. 인종차별철폐협약 제6조에 따라 각 국가는 관할지역 내 모든 사람이 협약에 반하여 자신의 인권과 기본적 자유를 침해하는 모든 형태의 인종차별로부터 효과적으로 보호와 구제를 받을 수 있고, 그러한 차별의 결과로 발생하는 모든 피해에 대해 정당하고 적절한 배상이나 만족을 추구할 권리를 보장해야 한다.
40. In accordance with article 6 of the Convention, States must assure to everyone within their jurisdiction effective protection and remedies against any acts of racial discrimination which violate his or her human rights and fundamental freedoms contrary to the Convention, as well as the right to seek just and adequate reparation or satisfaction for any damage suffered as a result of such discrimination.
41. 각 국가는 피해자 중심적 접근법을 도입하고, 교차 형태의 차별을 경험한 대표 집단, 국가인권기구를 포함한 당국, 지역사회, 시민단체 간 협력 모델을 활성화해 효과적으로 지원 서비스를 조율해야 한다. 위원회는 인종차별철폐협약 제5조 (a)항 및 제6조 간 교차성을 강조하며, 형사절차에서 인종 프로파일링 효과가 지속되는 것을 방지하기 위하여 사법당국 및 그 밖의 사법행정기관이 그러한 과정에 효과적으로 협의하고 관여해야 한다는 점에 주목한다.
41. States are encouraged to adopt victim-centred approaches and to coordinate their support services effectively by promoting models of cooperation among the authorities, communities, civil society organizations, including those representing groups experiencing intersecting forms of discrimination, and national human rights institutions. The Committee stresses the interconnection between articles 5 (a) and 6 of the Convention and notes that judicial authorities and other organs administering justice should be effectively consulted and involved in such processes to prevent the perpetuation of a racial profiling effect in criminal proceedings.

B. 인권교육

B. Human rights education and training

42. 각 국가는 법집행기관의 전문 의무교육과정을 개발해야 하며, 해당 과정은 편견이 직무에 미치는 영향에 대한 법집행공무원의 인식을 높이고, 차별하지 않는 행동 방식을 보여주는 내용이어야 한다. 가능한 경우 교차 형태의 차별을 경험하는 낙인 찍힌 집단이 해당 교육의 개발 및 교육에 참여해야 한다. 법집행기관은 차별 및 편견에 기반한 경찰활동을 철폐하기 위한 연수 과정은 고정관념 및 편견에 취약한 분야에 대한 감독을 강화하고 재량권을 제한하는 제도적 개입으로 보완되어야 한다. 또한, 태도 및 행동 변화에 대한 교육이 제한적이라는 우려를 감안하여, 비차별 및 편견에 대한 교육은 정기적으로 평가되고 교육 목적을 달성할 수 있도록 현행화해야 한다.
42. States should develop specialized, mandatory training programmes for law enforcement agencies that raise awareness among law enforcement officials about the impact of biases on their work and that demonstrate how to ensure non-discriminatory conduct. Stigmatized groups, including those whose members experience intersecting forms of discrimination, should be engaged in the development and delivery of such training, where possible. Law enforcement agencies should ensure that in-service training to counter discrimination and bias-based policing is complemented by institutional interventions aimed at limiting discretion and increased oversight in areas vulnerable to stereotyping and biases. In addition, given concerns about the limitations of training on changing attitudes and behaviour, non-discrimination and bias training should be regularly evaluated and updated to ensure that it has the desired impact.
43. 인공지능 전문가와 데이터를 해석하는 공무원은 모두 기본권에 대한 명확한 이해를 가져 인종에 관한 편견을 포함하거나 이를 야기할 수 있는 데이터 입력을 삼가야 한다. 각 국가는 데이터를 해석하는 공무원과 전문가, 사법 공무원, 법집행공무원을 위해 인종주의 및 인종차별에 대한 교육을 제공하여야 한다. 각 국가는 인종차별을 금지하는 의무조항에 기반하여 조달정책을 수립하여야 한다.
43. Both artificial intelligence experts and officials who interpret data must have a clear understanding of fundamental rights in order to avoid the entry of data that may contain or result in racial bias. States should provide training on racism and racial discrimination for experts and officials who interpret data, judicial officers and law enforcement officers, among others. States should develop procurement policies based on mandatory terms prohibiting racial discrimination.
44. 각 국가는 국가인권기구 및 전문기관들과 협력하여 시민사회단체에 알고리즘에 기반한 편견 및 신기술 관련 교육을 활성화해야 한다.
44. States, in cooperation with national human rights institutions and specialized entities, should promote the training of civil society organizations on algorithmic bias and emerging technologies.
45. 경찰관이 차별을 하지 않도록 하기 위해서는 인권 교육이 필수적이다. 국가인권기구는 시민사회단체와 협력하여 차별을 야기할 수 있는 신기술 장치를 감사하고, 실무에서의 다른 위험을 파악함에 있어 법집행공무원을 교육하는 데 핵심적인 역할을 할 수 있다. 35 )
45. Human rights education and training are vital to ensuring that police officers do not discriminate. National human rights institutions, in cooperation with civil society organizations, can play a central role in training law enforcement officials, in auditing new technological tools that could lead to discrimination and in identifying other risks in practice. 36 )

C. 채용조치

C. Recruitment measures

46. 각 국가는 법집행기관이 서비스를 제공하는 인구의 구성을 반영하여 인력의 다양성을 개선하는 채용, 유지 및 개발 전략을 수립하도록 하여야 한다. 해당 전략에는 내부 쿼터제의 도입, 소수민족을 위한 채용제도 개발 등이 포함될 수 있다. 이는 편견에서 벗어난 의사결정을 하기 위한 기관의 조직문화 및 인적 구성원의 태도에 영향을 미칠 수 있다.
46. States should ensure that law enforcement agencies develop recruitment, retention and advancement strategies that promote a diverse workforce that reflects the composition of the populations they serve. Such strategies could include setting internal quotas and developing a recruitment programme for ethnic minorities. This has the potential to influence the culture of agencies and the attitudes of staff with a view to producing less biased decision-making.
47. 각 국가는 법집행기관이 정기적으로 채용과 승진 정책을 평가하도록 하여야 하며, 필요 시 다양한 소수국적 또는 소수민족 집단, 특히 종교, 성별, 성적 지향, 장애, 연령에 기반한 교차 형태의 차별을 경험하는 집단이 소외되는 문제를 효과적으로 해결하기 위해 임시 특별조치를 취하도록 하여야 한다.
47. States should ensure that law enforcement agencies regularly evaluate recruitment and promotion policies and, if necessary, undertake temporary special measures to effectively address the underrepresentation of various national or ethnic minority groups and of groups experiencing intersecting forms of discrimination based on, inter alia, religion, sex and gender, sexual orientation, disability and age.

D. 지역사회 치안

D. Community policing

48. 각 국가는 법집행기관이 인종차별에 직면한 개인 및 집단과 효과적으로 관여하기 위한 전략을 개발하도록 하여야 하며, 이 때 해당 전략은 여러 지역사회의 특별한 맥락, 역학 및 필요를 고려한 것이어야 한다. 이는 불신과 인종 프로파일링 수준을 낮추고, 의사소통을 개선하는 데 도움이 되어야 한다. 여성을 포함한 다수의 집단이 지역사회 리더십 수준에서 소외되고 있으며, 이와 관련하여 헌신적이고 세심한 지원 노력이 필요할 수 있으므로, 경찰과 지역사회 간의 대화는 지역사회 지도층을 넘어 확대되어야 한다. 경찰이 가장 흔히 대상으로 삼는 청년층을 예로 들 수 있다.
48. States should ensure that law enforcement agencies develop strategies for effective engagement with individuals and groups facing racial discrimination that take into account the unique context, dynamics and needs of different communities. This should help to improve communication and reduce levels of distrust and of racial profiling. Police-community dialogue should be expanded beyond community leaders, as many groups, including women, are underrepresented at the community leadership level and may need dedicated and sensitive outreach efforts. Young people who are most commonly targeted by police would be a key example.
49. 각 국가는 경찰 및 그 밖의 법집행기관이 제공하는 공공정보가 신뢰할 수 있고 객관적인 통계에 근거하도록 하며, 차별의 대상이 되는 민족집단에 대한 고정관념과 편견을 철폐하기 위한 조치를 도입하여야 한다. 또한 각 국가는 공개수배 등의 합법적 목적으로 개인정보 공개가 엄격히 필요한 경우를 제외하고 범죄 혐의자와 관련하여 추정되는 인종, 피부색, 혈통, 국적, 민족과 관련된 개인정보를 공개하지 않아야 한다.
49. States should adopt measures to ensure that public information from the police and other law enforcement agencies is based on reliable and objective statistics and does not perpetuate stereotypes and bias against ethnic groups that are subjected to discrimination. In addition, States should refrain from releasing personal data about alleged perpetrators that are linked to presumed race, colour, descent or national or ethnic origin, unless such disclosure is strictly necessary and serves a legitimate purpose, such as in the case of a wanted notice.

E. 분산화된 데이터

E. Disaggregated data

50. 각 국가는 신원 확인, 교통 검문 및 국경 수색 등과 관련한 법 집행 관행에 대하여 분산되어 있는 정량적, 정성적 데이터를 정기적으로 수집하고 모니터링하여야 한다. 이는 인종차별의 교차된 형태 등 인종차별의 금지된 근거, 법 집행 행동의 이유와 결과에 대한 정보를 포함한다. 해당 관행을 통해 도출된 익명화된 통계는 대중에게 공개되어야 하며, 지역사회와 이에 대한 논의를 해야 한다. 데이터는 인권기준과 원칙, 데이터보호규정 및 프라이버시 보장 조건을 준수하여 수집되어야 하며, 이 정보를 오용하는 일이 있어서는 안 된다.
50. States should regularly collect and monitor disaggregated quantitative and qualitative data on relevant law enforcement practices, such as identity checks, traffic stops and border searches, which include information on the prohibited grounds for racial discrimination, including its intersecting forms, as well as the reason for the law enforcement action and the outcome of the encounter. The anonymized statistics generated by such practices should be made available to the public and discussed with local communities. The data should be collected in accordance with human rights standards and principles, data protection regulations and privacy guarantees. This information must not be misused.
51. 각 국가는 자연인과 관련된 특정 개인적 측면을 평가하기 위해 개인정보를 사용하는 개인정보 자동화 처리 과정, 특히 해당 자연인의 업무 실적, 경제적 상황, 건강, 개인적 선호, 관심사항, 신뢰성, 행동, 위치 또는 이동에 관한 측면을 분석하거나 예측하는 행위를 경계하여야 한다. 36 )
51. States should also guard against forms of automated processing of personal data consisting of the use of personal data to evaluate certain personal aspects relating to a natural person, in particular to analyse or predict aspects concerning that person’s performance at work, economic situation, health, personal preferences, interests, reliability, behaviour, location or movements. 37 )

F. 책임

F. Accountability

52. 각 국가는 인종차별, 인종주의, 인종 및 민족 프로파일링에 관한 시민의 민원을 접수하는 보고 메커니즘을 구축해야 하며, 이 메커니즘은 법 집행 및 그 밖의 관련기관으로부터 독립되어 있어야 한다. 37 ) 이와 같은 메커니즘은 혐의를 신속하고 효과적으로 조사할 수 있고, 시민사회 및 인권감시기구와 공조할 수 있는 권한을 가져야 한다. 또한 데이터보호규정 및 인권기준에 따라 해당 메커니즘에서 밝혀진 바를 공개하여야 한다. 해당 메커니즘에서는 교차 차별의 경우에 있어 장애인에 대한 편의를 고려하여야 한다.
52. States should create a reporting mechanism, independent of law enforcement and other related agencies, for receiving complaints of racial discrimination, racism and racial and ethnic profiling from citizens. 38 ) Such a mechanism must have the power to promptly and effectively investigate allegations and work in concert with civil society and human rights monitoring bodies. It must also report publicly on its findings in accordance with data protection regulations and human rights standards. Such mechanisms should take into account the special needs of persons with disabilities in cases of intersectional discrimination.
53. 각 국가는 차별적 행동을 방지하기 위해 법집행기관 내외부의 감독 메커니즘을 구축해야 한다. 해당 메커니즘은 인종 프로파일링을 철폐하고 방지하기 위한 내부 지침, 정책 및 규정을 수립하여야 하며, 이를 위반하는 공무원에 대한 징계조치를 통해 내부 책임을 지워야 한다.
53. States should establish oversight mechanisms, both within and external to law enforcement bodies, in order to prevent discriminatory behaviour; such mechanisms should develop internal guidelines, policies and regulations to combat and prevent racial profiling and ensure internal accountability by taking disciplinary action against officials who violate them.
54. 법집행기관에 의한 인종 프로파일링 사례는 국제인권기준에 따라 효과적으로 조사하여야 한다. 책임자를 기소하여야 하며, 유죄 판결을 받을 시 적절한 벌금으로 책임자를 제재하고, 피해자에게 배상금이 지급되어야 한다.
54. Incidents of racial profiling by law enforcement agencies should be investigated effectively, in accordance with international human rights standards. Those responsible should be prosecuted and, if convicted, they should be sanctioned with appropriate penalties and compensation should be granted to victims.
55. 각 국가는 법집행기관의 고위 공무원이 다음의 조치를 취하도록 하여야 한다.: 기관 내에서 차별금지정책 및 관행을 촉진하는 조치, 직원 행동을 엄격히 모니터링하는 조치, 내부의 독립 감독 메커니즘을 통해 직원이 불법행위에 대한 책임을 지도록 하는 조치. 38 ) 직원의 의사결정과 관행을 분석하고, 관련 데이터를 활용하여 이와 같은 조치를 지원할 수 있다. 고위 공무원은 또한 테러 대응 등을 포함하여 소외집단과 공동체에 불균형한 영향을 미칠 수 있는 법 적용과 운용의 영향을 평가하여야 한다.
55. States should ensure that senior officials within law enforcement agencies promote non-discriminatory policies and practices within their agencies, rigorously monitor the conduct of staff and hold staff accountable for misconduct through the internal, independent oversight mechanism. 39 ) These actions can be supported through the availability of data on and analysis of the decision-making and practices of staff. Senior officials should also review the impact of the application of legislation and operations, including those for countering terrorism, which may have a disproportionate impact on marginalized groups and communities.
56. 국가인권기구와 시민단체에 인권 프로파일링 사례를 모니터링하고, 해당 프로파일링의 피해자를 지원할 것을 장려하여야 한다. 국가인권기구와 시민단체는 대중의 인지도를 높이고, 모니터링 결과를 공론화하고, 개혁을 위해 영향력을 행사하고, 법집행기관 및 그 밖의 중앙 및 지역기관과 건설적으로 협력하여야 한다.
56. National human rights institutions and civil society organizations are encouraged to monitor incidents of racial profiling and assist victims of such profiling. They should increase public awareness, publicize findings, lobby for reforms and engage constructively with law enforcement agencies and other national and local institutions.
57. 국제 및 지역 인권 메커니즘, 국가인권기구 및 평등 관련 기구, 시민사회단체, 공공분야 구성원은 법집행기관의 차별 관행 관련 민원을 제기할 수 있도록 하여야 한다. 공공분야 구성원은 독립 메커니즘을 통해 민원을 제기할 수 있어야 한다.
57. International and regional human rights mechanisms, national human rights institutions and equality bodies, civil society groups and members of the public should have the possibility to make complaints regarding discriminatory practices of law enforcement agencies. Members of the public should be able to file complaints through independent mechanisms.

G. 인공지능

G. Artificial intelligence

58. 각 국가는 법 집행 목적으로 사용되는 알고리즘 기반 프로파일링 시스템이 국제인권법을 엄격히 준수하도록 하여야 한다. 이를 위해 국가는 이러한 시스템을 조달하거나 배치하기 전에 적절한 입법, 행정 및 그 밖의 조치를 취하여 사용 목적을 결정하고 인권 침해를 방지하는 매개변수와 보장을 가능한 한 정확하게 규제해야 한다. 해당 조치는 특히 알고리즘에 기반한 프로파일링 시스템의 도입으로 다음의 권리를 약화시키지 않는 것을 목적으로 해야 한다.: 차별받지 않을 권리, 법 앞에 평등할 권리, 자유와 안전을 누릴 권리, 무죄 추정의 권리, 생명권, 사생활을 누릴 권리, 이동의 자유를 누릴 권리, 평화집회와 결사의 자유를 누릴 권리, 임의적 체포나 기타 개입으로부터 보호받을 권리, 효과적인 구제를 받을 권리.
58. States should ensure that algorithmic profiling systems used for the purposes of law enforcement are in full compliance with international human rights law. To that effect, before procuring or deploying such systems States should adopt appropriate legislative, administrative and other measures to determine the purpose of their use and to regulate as accurately as possible the parameters and guarantees that prevent breaches of human rights. Such measures should, in particular, be aimed at ensuring that the deployment of algorithmic profiling systems does not undermine the right not to be discriminated against, the right to equality before the law, the right to liberty and security of person, the right to the presumption of innocence, the right to life, the right to privacy, freedom of movement, freedom of peaceful assembly and association, protections against arbitrary arrest and other interventions, and the right to an effective remedy.
59. 각 국가는 데이터 수집의 대표성 부족으로 인한 인식 오류가 발생할 수 있는 안면인식기술을 적용하기 전에 잠재적 인권 영향을 신중하게 평가하여야 한다. 각 국가는 전국적 도입이 이루어지기 전에 인구의 다양한 구성을 반영하는 개인을 포함하는 독립 감독기관의 감독을 받는 시범운영기간을 두는 것을 고려하여야 한다. 이는 피부색에 기반한 프로파일링 및 모든 잠재 인식 오류를 완화하기 위한 것이다.
59. States should carefully assess the potential human rights impact prior to employing facial recognition technology, which can lead to misidentification owing to a lack of representation in data collection. Before national deployment, States should consider a pilot period under the supervision of an independent oversight body that is inclusive of individuals who reflect the diverse composition of the population, to mitigate against any potential instances of misidentification and profiling based on skin colour.
60. 각 국가는 법 집행 목적으로 도입된 알고리즘에 기반한 프로파일링 시스템이 투명하게 설계되도록 하여야 하며, 연구자 및 시민사회가 코드에 접근할 수 있도록 허용하고 코드에 대한 철저한 검토가 이루어지도록 하여야 한다. 해당 시스템이 전 생애주기에 걸쳐 인권에 미치는 영향을 지속적으로 평가하고 모니터링하여야 하며, 인권에 미치는 위험이나 유해성이 파악될 시 각 국가는 적절한 완화조치를 취해야 한다. 해당 프로세스는 알고리즘에 기반한 프로파일링의 잠재적 및 실제적 차별 효과를 검토하여야 한다. 이 때 해당 프로파일링은 인종, 피부색, 혈통, 국적, 민족에 기반하거나, 상기의 근거와 종교나 성별, 성적 지향과 성 정체성, 장애, 연령, 이민 지위, 직업, 기타 지위를 포함한 다른 근거에 교차하여 기반한다. 가능한 경우 해당 시스템을 개발하거나 인수하기 전에 검토가 이루어져야 하며, 최소한 시스템 사용 기간 동안 및 그 이전에는 검토가 이루어져야 한다. 해당 프로세스는 공동체 영향 평가를 포함하여야 한다. 잠재적으로 또는 실제적으로 영향을 받는 집단 및 관련 전문가가 평가 및 완화 프로세스에 포함되어야 한다.
60. States should ensure that algorithmic profiling systems deployed for law enforcement purposes are designed for transparency, and should allow researchers and civil society to access the code and subject it to scrutiny. There should be continual assessment and monitoring of the human rights impact of those systems throughout their life cycle, and States should take appropriate mitigation measures if risks or harms to human rights are identified. Those processes should examine potential and actual discriminatory effects of algorithmic profiling based on grounds of race, colour, descent, or national or ethnic origin and their intersection with other grounds, including religion, sex and gender, sexual orientation and gender identity, disability, age, migration status and work or other status. They should be conducted prior to the development or acquisition of such systems, wherever possible, and at the very least prior to and during the full period of the use of the systems. Such processes should include community impact assessments. Groups that are potentially or actually affected and relevant experts should be included in the assessment and mitigation processes.
61. 각 국가는 알고리즘에 기반한 프로파일링 시스템 사용에 있어 투명성을 확보하기 위해 필요한 모든 조치를 취해야 한다. 이는 해당 시스템의 사용을 대중에 공개하는 것, 시스템이 작동되는 방식에 대한 의미 있는 설명, 사용되는 데이터세트, 인권 침해를 방지하거나 완화하기 위해 도입된 조치를 포함한다.
61. States should take all appropriate measures to ensure transparency in the use of algorithmic profiling systems. This includes public disclosure of the use of such systems and meaningful explanations of the ways in which the systems work, the data sets that are being used, and the measures in place to prevent or mitigate human rights harms.
62. 각 국가는 조치를 도입하여 독립 감독기관이 공공부문에 의한 인공지능 툴 사용을 의무적으로 모니터링하고, 인종차별철폐협약을 준수하여 수립된 기준으로 이를 평가하도록 해야 한다. 이의 목적은 공공부문의 인공지능 툴 사용으로 인해 불평등이 뿌리내리거나 차별적 결과가 도출되지 않도록 하는 것이다. 각 국가는 또한 결함을 평가하고 필요한 시정조치를 취하기 위해 해당 시스템의 작동을 정기적으로 모니터링하고 평가하여야 한다. 기술 평가가 차별이나 기타 인권 침해의 위험이 높음을 시사할 경우 각 국가는 해당 기술의 사용을 하지 않기 위한 조치를 취해야 한다.
62. States should adopt measures to ensure that independent oversight bodies have a mandate to monitor the use of artificial intelligence tools by the public sector, and to assess them against criteria developed in conformity with the Convention to ensure they are not entrenching inequalities or producing discriminatory results. States should also ensure that the functioning of such systems is regularly monitored and evaluated in order to assess deficiencies and to take the necessary corrective measures. When the results of an assessment of a technology indicate a high risk of discrimination or other human rights violations, States should take measures to avoid the use of such a technology.
63. 각 국가는 민간부문이 법 집행 분야에서 인공지능 시스템을 설계, 도입 및 이행할 때 인권기준을 준수하도록 하기 위한 조치를 도입하여야 한다. 각 국가는 또한 기업이 인종차별, 또는 인종차별철폐협약에 위배될 수 있는 기타 형태의 차별을 야기할 수 있는 알고리즘을 프로그래밍, 사용 및 상용화할 때 준수하여야 하는 지침과 행동강령을 도입하고 이를 정기적으로 개정하여야 한다.
63. States should adopt measures to ensure that private sector design, deployment and implementation of artificial intelligence systems in the area of law enforcement comply with human rights standards. States should also ensure the adoption and periodic revision of guidelines and codes of conduct that companies must observe in the programming, use and commercialization of algorithms that may lead to racial discrimination or, in general, any other form of discrimination likely to be in violation of the Convention.
64. 각 국가는 공공부문 기관, 민간기업 및 그 밖의 관련 기관이 알고리즘을 개발, 학습, 마케팅 및 사용하는 과정에서 다음을 준수하도록 하기 위해 규제를 도입하여야 한다.: (a) 평등과 차별금지의 원칙을 준수하고, 기업과 인권에 관한 이행원칙(특히 원칙 제1-3조, 제11조 및 제24조)을 준수하여 인권을 존중하여야 한다. (b) 투명성을 확보하기 위해 제정된 예방원칙과 모든 행정 또는 입법조치를 존중하여야 한다. (c) 법 집행이 개인에 대한 개인정보에 접근했는지 여부를 대중에 공개하여야 한다. (d) 인종차별철폐협약에 의해 보호받는 사회집단에 불평등하거나 불균형적인 영향이 야기되지 않도록 하여야 한다.
64. States should adopt regulations ensuring that public sector bodies, private business enterprises and other relevant organizations, in the process of developing, learning, marketing and using algorithms: (a) comply with the principle of equality and non-discrimination, and respect human rights in general, in line with the Guiding Principles on Business and Human Rights (in particular guiding principles 1–3, 11 and 24); (b) respect the precautionary principle and any administrative or legislative measure enacted to ensure transparency; (c) disclose publicly whether law enforcement has access to private data on individuals; and (d) avoid causing disparate or disproportionate impact on the social groups protected by the Convention.
65. 각 국가는 알고리즘에 기반한 편견의 모든 사례가 적법하게 조사되고, 제재가 가해지도록 하여야 한다.
65. States should ensure that all instances of algorithmic bias are duly investigated and that sanctions are imposed.
66. 각 국가는 법 집행 목적의 알고리즘에 기반한 프로파일링 시스템을 개발, 판매 및 운영하는 기업이 사회학, 정치과학, 컴퓨터공학 및 법학 등 여러 분야의 개인을 참여시켜 인권침해를 정의하고, 인권이 존중되도록 할 책임을 갖도록 하여야 한다. 이를 위해 각 국가는 기업이 다음을 포함한 인권실천점검의무(human rights due diligence) 프로세스를 이행하도록 장려하여야 한다.: (a) 모든 실제적 또는 잠재적으로 인권에 미치는 부정적인 영향을 파악하고 평가하기 위한 평가를 시행하여야 한다. (b) 해당 평가들을 통합하고, 이미 파악된 인권에 미치는 부정적인 영향을 방지하고 완화하기 위한 적절한 조치를 취해야 한다. (c) 노력의 효과성을 추적해야 한다. (d) 인권 영향을 어떻게 해결했는지를 공식적으로 보고하여야 한다. 39 )
66. States should ensure that companies that are developing, selling or operating algorithmic profiling systems for law enforcement purposes have a responsibility to involve individuals from multiple disciplines, such as sociology, political science, computer science and law, to define the risks to, and ensure respect for, human rights. To that end, States should encourage companies to carry out human rights due diligence processes, which entail: (a) conducting assessments to identify and assess any actual or potentially adverse human rights impacts; (b) integrating those assessments and taking appropriate action to prevent and mitigate adverse human rights impacts that have been identified; (c) tracking the effectiveness of their efforts; and (d) reporting formally on how they have addressed their human rights impacts. 40 )
67. 인권에 미치는 부정적인 영향을 파악, 평가, 방지 및 완화하는 과정에서 기업은 위 제27항에 명시된 데이터 관련 요소에 특별한 관심을 기울여야 한다. 차별적 결과를 방지하고 인권에 대한 다른 부정적 영향을 방지하기 위해 교육 데이터를 선정하고, 모델을 설계하여야 한다. 또한 기업은 알고리즘에 기반한 프로파일링 시스템을 개발하는 팀과 다양성, 평등 및 기타 포용 수단을 지향하여야 한다. 기업은 또한 알고리즘에 기반한 프로파일링 시스템에 대한 독립적인 제3자 감사에 개방적이어야 한다. 40 ) 차별이나 그 밖의 다른 인권 침해 위험이 너무 높거나 완화가 불가한 경우 민간부문 주체는 알고리즘에 기반한 프로파일링 시스템을 판매하거나 도입해서는 안 된다. 이는 국가에 의한 계획된 또는 예측 가능한 사용의 특성으로 인한 경우를 포함한다.
67. In the process of identifying, assessing, preventing and mitigating adverse human rights impacts, companies should pay particular attention to the data-related factors outlined in paragraph 27 above. Training data should be selected, and models designed, so as to prevent discriminatory outcomes and other adverse impacts on human rights. Moreover, companies should pursue diversity, equity and other means of inclusion in the teams developing algorithmic profiling systems. Companies should also be open to independent third-party audits of their algorithmic profiling systems. 41 ) Where the risk of discrimination or other human rights violations has been assessed to be too high or impossible to mitigate, including because of the nature of a planned or foreseeable use by a State, private sector actors should not sell or deploy an algorithmic profiling system.
68. 각 국가는 인공지능과 연계하여 인종차별 사건, 예방조치, 제재 및 구제를 기록해야 하며, 해당 정보를 인종차별철폐위원회에 제출하는 보고서에 포함하여야 한다.
68. States should document cases of racial discrimination associated with artificial intelligence, as well as prevention measures, sanctions and remedies, and include such information in their reports to the Committee.
69. 인권기구, 국가, 국가인권기구 및 시민사회단체는 인공지능에서 파생된 인종 편견을 해결하기 위한 효과적 조치에 대한 모범 사례를 파악하고, 연구를 수행하고, 연구 결과를 전파하여야 한다. 이는 기계학습(machine learning)의 인권준수 및 윤리적 측면에 관련된 내용을 포함한다. 또한 알고리즘의 프로그래밍과 교육 과정에 있어서 해석이나 투명성과 관련된 기준을 파악하여야 한다. 이 모든 것은 인종차별철폐협약의 관점을 통해 이루어져야 한다.
69. Human rights bodies, States, national human rights institutions and civil society organizations should carry out, and disseminate the results of, studies, identify good practices on effective measures addressing racial biases derived from artificial intelligence, including those related to human rights compliance and ethical aspects of machine learning, and identify relevant criteria in terms of interpretation or transparency in the processes of the programming and training of algorithms, and should do so through the lens of the International Convention on the Elimination of All Forms of Racial Discrimination.
각주
FootNote
1) 일반권고 초안: www.ohchr.org/EN/HRBodies/CERD/Pages/GC36.aspx.
1) The contributions for the draft general recommendation are available at: www.ohchr.org/EN/HRBodies/CERD/Pages/GC36.aspx.
2) CERD/C/RUS/CO/23-24, paras. 15-16; CERD/C/CAN/CO/21 -23, paras. 15-16; CERD/C/ITA/CO/19-20, paras. 27-28; CERD/C/ESP/CO/21 -23, para. 27; CERD/C/SVN/CO/8-11, para. 8 (d); CERD/C/POL/CO/20-21, para. 11; CERD/C/NLD/CO/19-21, paras. 13-15; CERD/C/CHE/CO/7-9, para. 14; and CERD/C/USA/CO/7-9, paras. 8 and 18.
2) CERD/C/RUS/CO/23-24, paras. 15–16; CERD/C/CAN/CO/21-23, paras. 15–16; CERD/C/ITA/CO/19-20, paras. 27–28; CERD/C/ESP/CO/21-23, para. 27; CERD/C/SVN/CO/8-11, para. 8 (d); CERD/C/POL/CO/20-21, para. 11; CERD/C/NLD/CO/19-21, paras. 13–15; CERD/C/CHE/CO/7-9, para. 14; and CERD/C/USA/CO/7-9, paras. 8 and 18.
3) CCPR/C/96/D/1493/2006.
3) CCPR/C/96/D/1493/2006.
4) CCPR/C/NZL/CO/6, paras. 23-24; CCPR/C/AUT/CO/5, paras. 19-20; CCPR/C/FRA/CO/5, para. 15; CCPR/C/ESP/CO/6, para. 8; CCPR/C/RUS/CO/7, para. 9; and CCPR/C/USA/CO/4, para. 7.
4) CCPR/C/NZL/CO/6, paras. 23–24; CCPR/C/AUT/CO/5, paras. 19–20; CCPR/C/FRA/CO/5, para. 15; CCPR/C/ESP/CO/6, para. 8; CCPR/C/RUS/CO/7, para. 9; and CCPR/C/USA/CO/4, para. 7.
5) CAT/C/USA/CO/3-5, para. 26; CAT/C/CPV/CO/1, para. 20; CAT/C/ARG/CO/5-6, para. 35; and CAT/C/NLD/CO/7, paras. 44-45.
5) CAT/C/USA/CO/3-5, para. 26; CAT/C/CPV/CO/1, para. 20; CAT/C/ARG/CO/5-6, para. 35; and CAT/C/NLD/CO/7, paras. 44–45.
6) A/HRC/4/26, paras. 34 and 83.
6) A/HRC/4/26, paras. 34 and 83.
7) CERD/C/MUS/CO/20-23 and Corr.1, paras. 20-21; CERD/C/BLR/CO/20-23, paras. 23-24; CERD/C/ESP/CO/21-23, para. 27; and CERD/C/DEU/CO/19-22, para. 11.
7) CERD/C/MUS/CO/20-23 and Corr.1, paras. 20–21; CERD/C/BLR/CO/20-23, paras. 23–24; CERD/C/ESP/CO/21-23, para. 27; and CERD/C/DEU/CO/19-22, para. 11.
8) CERD/C/MUS/CO/20-23 and Corr.1, para. 20; and CERD/C/RUS/CO/23-24, paras. 15 (b) and 16 (c); CERD/C/CAN/CO/21-23, paras. 15 and 16 (a)-(d); and CERD/C/ITA/CO/19-20, paras. 27-28.
8) CERD/C/MUS/CO/20-23 and Corr.1, para. 20; and CERD/C/RUS/CO/23-24, paras. 15 (b) and 16 (c); CERD/C/CAN/CO/21-23, paras. 15 and 16 (a)–(d); and CERD/C/ITA/CO/19-20, paras. 27–28.
9) 미주인권위원회, “미주의 아프리카계가 처한 상황”, para. 143.
9) Inter-American Commission on Human Rights, “The situation of people of African descent in the Americas” (2011), para. 143.
10) 아랍인권위원회의 보고서 참조.
10) See the contribution of the Arab Human Rights Committee.
11) A/HRC/29/46, para. 2.
11) A/HRC/29/46, para. 2.
12) UN, 아프리카계의 프로파일링 방지 및 철폐: 모범관행과 난제(2019), p. v.
12) United Nations, Preventing and Countering Racial Profiling of People of African Descent: Good Practices and Challenges (2019), p. v.
13) A/73/354 참조.
13) See A/73/354.
14) 예: 사이먼 쿠색(Simone Cusack), “인권 침해로서의 성 고정관념화”, UN인권고등판무관실 의뢰 연구보고서(2013)
14) See, for example, Simone Cusack, “Gender stereotyping as a human rights violation”, research report commissioned by the Office of the United Nations High Commissioner for Human Rights (2013).
15) 예: CERD/C/IRL/CO/3-4, para. 18.
15) See, for example, CERD/C/IRL/CO/3-4, para. 18.
16) 일반권고 제13호(1993) 참조.
16) See general recommendation No. 13 (1993).
17) 예: A/HRC/24/52/Add.2, para. 57.
17) See, for example, A/HRC/24/52/Add.2, para. 57.
18) CERD/C/RUS/CO/23-24, paras. 15-16; CERD/C/SVN/CO/8-11, paras. 8-9; and CERD/C/AUS/CO/18-20, para. 14.
18) CERD/C/RUS/CO/23-24, paras. 15–16; CERD/C/SVN/CO/8-11, paras. 8–9; and CERD/C/AUS/CO/18-20, para. 14.
19) 인종차별철폐협약 제5조 참조.
19) See also article 5 of the International Convention on the Elimination of All Forms of Racial Discrimination.
20) 알고리즘에 기반한 프로파일링은 동향, 패턴, 상관관계를 파악하기 위해 데이터를 분석하는 데 사용되는 컴퓨터에 의한 모든 단계별 기법을 포함한다. EU기본권기구, 현재와 미래의 불법 프로파일링 방지: 지침(2018), p. 97.
20) Algorithmic profiling includes any step-by-step computerized technique used for analysing data to identify trends, patterns or correlations. European Union Agency for Fundamental Rights, Preventing Unlawful Profiling Today and in the Future: A Guide (2018), p. 97.
21) “인공지능”이라는 용어는 널리 사용되고 있으나, 명확하게 정의되지 않았다. 의사 표현의 자유 특별보고관은 인공지능이 “자동화되고 컴퓨터를 사용한 의사결정과 연관된 독립성, 속도, 규모 확대의 약칭”으로 사용되는 경우가 많다고 언급했다. 인공지능은 또한 “의사결정과 문제 해결 등 인간이 수행했을 특정 작업을 컴퓨터가 대체하거나 보완할 수 있게 해 주는 기술과 프로세스의 모음’을 의미한다.(A/73/348, para. 2)
21) Although widely used, the term “artificial intelligence” is not clearly defined. The Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression has noted that artificial intelligence is often used as shorthand for the increasing independence, speed and scale connected to automated, computational decision-making. It is not one thing only, but rather refers to a “constellation” of processes and technologies enabling computers to complement or replace specific tasks otherwise performed by humans, such as making decisions and solving problems (A/73/348, para. 2).
22) A/HRC/44/57 참조.
22) See A/HRC/44/57.
23) AI 나우, “AI 나우 보고서: 인공지능의 단기적 사회경제적 함의”, 백악관 및 뉴욕대학교 정보법연구소가 2016년 7월 7일 개최한 AI나우 공공 심포지엄 요약, p. 7.
23) AI Now, “The AI Now report: the social and economic implications of artificial intelligence technologies in the near-term”, summary of the AI Now public symposium hosted by the White House and the Information Law Institute of New York University on 7 July 2016, p. 7.
24) A/73/348, para. 38.
24) A/73/348, para. 38.
25) 예: 한 집단에 소속된 사람들에게 영향을 미치는 불균형한 체포 등 과거의 차별적 관행이 프로파일링에 사용되는 데이터에 반영되어 있을 때 이는 알고리즘에 기반한 프로파일링 결과에 영향을 미치게 된다.
25) For example, when past discriminatory practices, such as arrests disproportionately affecting members of one group, are reflected in the data used for profiling, it will affect the outcomes of algorithmic profiling.
26) EU기본권기구, “#빅데이터: 데이터 지원 의사결정에 있어서의 차별”, FRA Focus paper (2018), pp. 4-5.
26) European Union Agency for Fundamental Rights, “#BigData: discrimination in data-supported decision making”, FRA Focus paper (2018), pp. 4–5.
27) 라시다 리차드슨(Rashida Richardson), 제이슨 M. 슐츠(Jason M. Schultz), 케이트 크로포드(Kate Crawford), “오염된 데이터, 그릇된 예측: 인권 침해가 경찰 데이터, 예측적 경찰 시스템, 정의에 미치는 영향”, New York University Law Review, vol. 94 (2019년 5월) 참조.
27) See Rashida Richardson, Jason M. Schultz and Kate Crawford, “Dirty data, bad predictions: how civil rights violations impact police data, predictive policing systems, and justice”, New York University Law Review, vol. 94 (May 2019).
28) 예: 줄리아 앵그윈(Julia Angwin) 외, “머신 편견”, ProPublica, 23 May 2016 참조.
28) See, for example, Julia Angwin and others, “Machine bias”, ProPublica, 23 May 2016.
29) A/HRC/44/57, para. 14.
29) A/HRC/44/57, para. 14.
30) A/HRC/41/35, para. 12.
30) A/HRC/41/35, para. 12.
31) A/HRC/39/29, para. 14.
31) A/HRC/39/29, para. 14.
32) A/HRC/41/35, para. 12.
32) A/HRC/41/35, para. 12.
33) 조이 부올라뮈니(Joy Buolamwini)와 팀닛 게브루(Timnit Gebru), “성의 그림자: 상업적 성 분류에 있어서의 교차 정확성 격차”, Proceedings of Machine Learning Research, vol. 81 (2018, 공정성, 책임성, 투명성의 절차 관련), 이니올루와 데보라 라지(Inioluwa Deborah Raji)와 조이 부올라뮈니(Joy Buolamwini), “실행 가능한 감사: 공개 네이밍에 있어서의 편견이 상업용 AI 제품의 성과에 미치는 영향에 대한 조사” (2019), Conference on Artificial Intelligence, Ethics, and Society.
33) See Joy Buolamwini and Timnit Gebru, “Gender shades: intersectional accuracy disparities in commercial gender classification”, Proceedings of Machine Learning Research, vol. 81 (2018) on the proceedings of the Conference on Fairness, Accountability, and Transparency; and Inioluwa Deborah Raji and Joy Buolamwini, “Actionable auditing: investigating the impact of publicly naming biased performance results of commercial AI products” (2019), Conference on Artificial Intelligence, Ethics, and Society.
34) 루하 벤자민(Ruha Benjamin), 기술 뒤의 인종: 뉴 짐 코드를 위한 폐지론자의 도구(Polity, 2019).
34) Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code (Polity, 2019).
35) 니카라과에서 기고.
35) Contribution from Nicaragua.
36) 범죄행위의 예방, 추적, 수사나 기소 또는 형벌의 집행을 위한 관할 당국의 개인정보 처리에 관한 자연인의 보호와 그러한 정보의 자유로운 이동에 관한 2016년 4월 27일 유럽의회 및 이사회 지침 (EU) 제2016/680호 및 이사회 기본결정 2008/977/JHA, 제3조(4)항의 폐지.
36) Directive (EU) 2016/680 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data by competent authorities for the purposes of the prevention, investigation, detection or prosecution of criminal offences or the execution of criminal penalties, and on the free movement of such data, and repealing Council Framework Decision 2008/977/JHA, art. 3 (4).
37) 유럽인종차별위원회, 일반 정책 권고 제11호, 제10항 및 설명.
37) European Commission against Racism and Intolerance, general policy recommendation No. 11, para. 10 and explanations.
38) 상기의 제53항 참조.
38) See paragraph 53 above.
39) A/HRC/39/29, para. 45; 기업과 인권에 관한 이행원칙: 원칙 17-21. “국제앰네스티”, “액세스 나우”, “토론토선언: 머신 러닝 시스템에서의 평등할 권리 및 차별받지 않을 권리의 보호” 참조.
39) A/HRC/39/29, para. 45; and Guiding Principles on Business and Human Rights, guiding principles 17–21. See also Amnesty International and Access Now, Toronto Declaration: Protecting the Right to Equality and Non-Discrimination in Machine Learning Systems.
40) “토론토선언: 머신 러닝 시스템에서의 평등할 권리 및 차별받지 않을 권리의 보호” 참조.
40) See the Toronto Declaration: Protecting the Right to Equality and Non-Discrimination in Machine Learning Systems.
참고 정보 링크 서비스
일반 논평 / 권고 / 견해 문서로의 바로가기 링크를 제공합니다.
• 일반 논평 / 권고 / 견해
개인 통보 문서로의 바로가기 링크를 제공합니다.
• 개인 통보
최종 견해 문서로의 바로가기 링크를 제공합니다.
• 최종 견해