출처: 중앙일보 2019년 11월 20일자 [문병로의 알고리즘 여행]

고교 수학에서 벡터와 행렬이 빠지게 되었다. 고등학생들의 학업 부담을 줄이고 사교육을 완화하고자 하는 교육 당국의 고려가 있었을 것이다. 그렇지만 이 변화가 미칠 영향은 그냥 넘기기에는 너무 심각하다.

비유를 하나 들어보자. 어린 시절에 피아노를 배우지 않은 사람이 어른이 되어 배우면 한계가 있다. 같은 수준에 이르는데 더 많은 에너지가 든다. 어린 시절에 축구공과 함께 뛰어놀지 않은 사람은 어른이 되어 아무리 축구를 해본들 잘 늘지 않는다. 수학도 비슷하다. 수학은 체계적인 사고를 형성하는 데 도움이 되고, 과학 기술의 제1 도구다.

컴퓨터 코딩이 초·중·고에 의무적으로 포함되고 대학의 모든 전공에서 필수로 되어가는 것이 세계적 추세다. 좀 더 나간 국가도 있다. 일본은 문·이과를 가리지 않고 대부분의 고등학생이 데이터 과학과 AI에 관한 기초를 습득하도록 하는 교육혁신 목표를 수립했다. 이 부분에 가장 밀접한 수학적 주제가 벡터와 행렬이다.

최근의 AI 열풍을 불러일으킨 계기를 만든 것은 딥러닝이다. 민간과 업계에서는 알파고로 인해 2016년부터 본격적인 열풍이 불기 시작했다. 오랜 역사를 가진 인공신경망이 더 깊어져 추상화 레벨이 더 높아진 것이 심층신경망이다. 딥러닝은 다양한 심층신경망을 통한 학습을 총칭한다. 분명한 한계가 있는 기법이지만 상식으로 알아야 하는 시대가 오고 있다. 코딩에 더하여 AI까지 대학의 모든 전공에서 교양 필수로 지정하는 움직임이 시작되고 있다.

딥러닝의 핵심 기초를 제공하는 것이 선형대수다. 선형대수는 한 마디로 벡터와 행렬에 관한 이야기다. 심층신경망에서 정보가 흐르는 과정 자체가 행렬 연산이고 품질을 개선하는 과정도 미분과 행렬 연산이다. 행렬 계산은 단순히 숫자들을 곱하고 더하는 것 같지만, 문제가 만드는 공간의 모양을 바꾸고 문제의 차원을 축소하고 확장하는 역할을 한다. 청소년들이 나중에 이런 느낌에 익숙해질 수 있는 기초를 가능하면 일찍 안내해야 한다. 저변의 넓이와 인재풀의 크기는 비례한다. 적어도 이과에서는 벡터와 행렬을 배워야 한다.

우리가 시각적으로 볼 수 있는 공간은 고작 3차원이다. 미래의 기술은 시각적으로 상상할 수 없는 고차원 공간에서의 탐색을 필연적으로 포함한다. 딥러닝이 그렇고 다른 최적화 기법들도 대부분 그렇다. 행렬은 공간을 다루기 쉽게 변형해서 인간의 직관이 이를 수 없는 숨은 공간을 여행하도록 한다. 좀 거친 비유지만, 우리가 생각을 할 때 이면에서 잠재의식을 거치는 것도 일종의 공간 변환이라 할 수 있다.

기술의 트렌드에 역행하는 이런 커리큘럼의 변화는 되돌려야 한다. 강화해도 모자랄 판에 삭제를 했다. 우리가 청소년들의 학업 부담으로 인한 스트레스만 고려해서 커리큘럼을 마구 줄일 수 있는 처지에 있는 나라가 아니다. 이미 지난 20여년간 지속적인 커리큘럼의 축소가 진행돼 경쟁력이 많이 떨어져 있다.

교육부에서는 선택 과목으로 배울 수 있다고 한다. 대학 입시에 나오지 않는 과목을 누가 선택하겠는가? 사실상 삭제다. 이런 걸 배려한다고 사교육 줄어들지 않는다. 기술의 하부 구조를 얼마나 이해하는 위원들이 이런 결정을 하는지 살펴볼 필요가 있다. 전쟁 같은 국제 경쟁에서 한국은 기술로 승부할 수밖에 없는 나라다. 이런 판에 교육 정책을 동네 축구하듯이 해서는 안 된다.

서울대학교 컴퓨터공학부 문병로 교수