ImFun(나는 수학을 즐긴다)

선형대수학(線型代數學, 영어: linear algebra)은 벡터 공간, 벡터, 선형 변환, 행렬, 연립 선형 방정식 등을 연구하는 대수학의 한 분야이다. 현대 선형대수학은 그중에서도 벡터 공간이 주 연구 대상이다. 추상대수학, 함수해석학에 널리 쓰이고 있다.

선형대수학은 다양한 분야에서 모두 이용되기 때문에 자연계와 공학전공자는 물론 인문사회계의 학생에게도 가장 중요한 수학과목의 하나로 여겨진다. 현재는 연구가 가장 활발한 21세기 수학 분야 중의 하나로 우리 사회의 여러 문제를 수학적으로 표현하여 수학적인 문제로 바꾸어 놓고, 그 문제를 선형화하여 선형연립방정식으로 만든 후 이를 풀기 위해 행렬에 대한 지식과 성질을 이용하여 쉽게 해를 구하고, 그 해를

원래의 사회문제에 대한 답으로 번역해주기도 한다.

한가지 예로 CEO 취제파일의 기사를 들어보겠다.

요즘 수학 공부에 열중하고 있는 게임업체 CEO가 있습니다. 김택진 엔씨소프트 대표이사입니다.

김택진 대표는 지인들에게 "수학에 관심이 많아서 재미있게 공부하고 있다"며 "그 중에서도 선형대수학을 공부하고 있다"고 얘기하고 있습니다. 이미 수학과 관련된 책을 많이 읽은 것으로 전해지고 있습니다.

게임 개발과 마케팅, 기업 경영에 바쁜 게임사 CEO가 '수학 공부'에 푹 빠진 이유가 뭘까요?

김택진 대표는 "엔씨소프트 내에서 수학이 쓰일 수 있는 분야를 키워보겠다"고 답했다 합니다. 게임과 수학을 접목하겠다는 얘기입니다.

수학은 컴퓨터가 인간의 뇌와 유사하게 작동할 수 있도록 신경망을 쌓고 논리구조를 만드는 데 사용됩니다. 또 컴퓨터 프로그래밍을 할 때도 공업수학이 활용됩니다.

최근 게임사를 비롯해 기업들이 인공지능을 사업에 접목하는 노력이 한창인데, 김 대표가 관심을 가지고 있는 선형대수학은 인공지능의 핵심기술인 기계학습을 구성하는 기초학문입니다. 게임 개발에서 수학은 동반자인 셈입니다.

참고로 엔씨소프트는 2010년부터 인공지능에 대한 투자를 시작했습니다. AI Lab이라는 연구조직을 설립하고 인공지능을 기반으로 한 게임플레이를 만들고 있습니다. 지난해 10월부터는 대학 등 수학 학계와도 협업에 나서 구체적인 협력모델을 만들고 있다 합니다.

김택진 대표의 '수학 열공'은 수학-인공지능-게임이 한 몸이 되는 연구개발에 박차를 가하겠다는 의지로 풀이됩니다. 엔씨소프트가 수학과 인공지능기술이 접목된 어떤 게임을 내놓을 지 주목받고 있습니다.

이와 같이 선형대수학은 여러 분야에서 각광받고 있는 매우 중요한 학문이다.

선형대수학이 발전하게 된 계기는 선형적인 컴퓨터를 만든 것이다. 이 컴퓨터의 발전과 더불어 선형대수학의 연구와 이용이 20세기 후반부터. 흥미로운 사실은 행렬을 Matrix로 정의하고 선형대수학을 실질적으로 시작한 실베스터와 케일리, 또 최초로 현대적인 계산기를 만든 배비지는 당시 유럽대륙 중심의 수학계에서 한 발 벗어난 19세기 영국의 수학자였다는 것입니다. 이후 행렬이론의 연구는 활발히 진행되고 무한차원, Tensor 등으로 확장되어 물리학의 발전에 크게 기여하였다. 그러나 2차 세계대전 후에 현대적인 컴퓨터의 발전과 더불어 행렬의 수치적인 장점이 부각되면서부터 유럽 중심의 수학계에서 소외받던 미국에서 20세기에 행렬이론이 크게 발전했다.

선형대수학은 책을 읽다 얼핏 봤었다. 교육과정에선 사라졌지만 행렬에 대해 궁금해서 책으로 찾아보면서 알게 되었다. 수학을 배우다 기하와 벡터를 배우기 전까진 계산, 식, 그래프가 전부였는데 입체도형과 벡터를 배우면서 뇌가 유연해지는 것 같았다. 창의적인 아이디어를 생각하고 x,y,z 좌표로 공간을 상상하고... 선형대수학은 이런 벡터와 행렬을 다룬 학문인 줄 알았는데 다른 연구분야도 많았다. 그 중 가장 관심이 가는건 행렬이다. 행렬은 단순해보이지만 매우 중요해 보였다. 형태도 특이하고.. 증명을 하는데도 많이 사용되는 것 같았다. 이런 행렬을 배우지 못해서 아쉽지만 대학교에 가서 꼭 배워보고 싶다.

해석학개론은 수학의 한 분야로, 기본적인 정의는 함수를 연구하는 학문이다. 모든 함수를 다 연구하는 것은 아니고, 주로 실수와 복소수 위에서의 함수들과 연속성 등을 탐구하게 된다. 연속성을 탐구하는 다른 학문인 위상수학과의 차이는, 연속성을 '수량화'했다는 것이다.

해석학의 시작은 미적분학의 엄밀한 수학적 기초를 세우면서 출발했다. 미적분학이 태동할 17~18세기의 수학은 직관적인 이해로부터 출발하는 것이 당연했고, 정의는 모두 빠져 있었다. 수학이 발전하면서 이 빈틈에서 자연스레 모순이 생겨났고, 극한에 대한 엄밀한 정의가 요구되었다. 애매한 무한소 개념을 대체하는 코시(Cauchy)의 악명높은 엡실론-델타 정의를 시작으로[1] 이 노력이 근대까지 이어진 것이 초창기의 해석학이다.

현대의 해석학은 미적분학과는 연관성을 알아볼 수 없을 정도로 다양하게 발전하였다. 함수해석학, 조화해석학 등의 많은 세부분야가 생겼을 뿐만 아니라, 정수론이나 기하학을 포함한 수학의 전 분야에 영향을 끼치고 있다. 확률론과 미분방정식 등 많은 분야의 기초가 되는 만큼, 전공자가 아니더라도 수학을 조금이라도 사용하게 된다면 한번쯤 접하게 되는 분야이기도 하다.

"해석학은 오랫동안 논리학에 첨가되어 왔기 때문에, 철학자들은 해석학설을 발전시키는데 관심이 없었다. 그러나 말하는 기술과 이해하는 기술은 서로 관련되어 있으며, 말하는 것은 단지 사고의 외적 측면이다. 해석학은 사고기술의 일부이며 고로 철학적이다."

-프리드리히 슐라이머마허, <Hermeneutics>, The Handwritten Manuscripts, pp.6~7 中-

프리드리히 슐라이에르마허, 빓헬름 딜타이, 마르틴 하이데거, 한스 게오르크 가디머의 해석학등 여러종류의 해석학이 있다.

처음에 해석개론이란 말을 들었을 때 암호를 해석하는 건가? 라는 생각이 들었다. 하지만 해삭학에 대해 알아가면서 전혀 다른 것이라는 걸 알게 되었다. 또 내가 지금까지 고등학교에서 배운 수학은 진짜가 아니라는 생각이 들었다. 어떤 사람이 이런 말을 했다. "고등학교때 미적분학을 열심히 했더라도 극한의 새로운 정의 앞에서 눈물이 앞을 가리는 상황"이 그저 가소롭게 보이게 만드는 학문이다. 그럼 내가 고등학교때 배웠던 것은 뭘까? 미적분학의 작은 점일 것이다. 고작 이만큼만 알면서 과연 내가 미적분을 배웠다고 할 수 있을지 의문이 들었다. 미적분을 배우면서 왜 미분이 되는지 증명을 하지 않고 그냥 공식들을 외웠던 것 같은데... 미적분2를 공부하면서 문제풀기에 급급해 한번도 그런 생각을 한 적 없는 것 같다. 사잇값정리, 함수의 연속성, 로피탈의 정리등.,, 왜 이런 정리들이 나왔는지 생각 해봤어야 했는데. 대학교에 들어가 이런 정리들의 증명을 다루고 좀 더 깊은 수학을 배워보고 싶다. 내가 모르는 것이 얼마나 많을까? 새로 배울 생각을 하니 두근두근거렸다. 하루빨리 단순한 문제풀이에서 벗어나 수학의 본질에 대해 배워보고 싶다.

칸토어의 유명한 정의에 따르면 '집합(Menge)이란 우리의 직관이나 상상을 통하여 분명히 인식할 수 있는 대상들을 모은 것을 하나의 실체로 본 것”이다. 집합은 서로 구별되는 대상들을 순서와 무관하게 모은 것이다. 이때 집합에 속하는 각각의 대상들은 집합의 원소라고 한다. 세상에 존재하는 거의 모든 것들은 집합의 원소가 될 수 있으며, 이는 숫자나 대수, 사람, 글자, 집합, 국가와 같은 개념들을 포함한다. 집합은 일반적으로 알파벳의 대문자로 표기하고, 원소는 소문자로 표기한다.

Poincare (1908) 수학적인 지도 정의에서 학생들이 보다 이해하기 쉬운 정의로써 먼저 직관적으로 무엇인가를 파악할 수 있어야 하며, 그 후에 수학적이고 논리적인 정의를 명확하게 인지시켜야 된다고 주장했다.

Venn-diagram은 명제의 논리적 형식을 직관적으로 나타내기 위해서 사용된 도해이다. 그러다,

Euler - Leibniz - Venn 으로 이어지면서 발전하게 되었다.

형식논리와 수학적 논리

실제적인 수학 문제 해결에 사용되는 논리는 역, 이, 대우, 삼단논법, 수학적 귀납법 등의

형식논리가 아닌 거꾸로 사고하기, 단순화해 보기, 대칭성 고려하기, 형식불역의 원리 등의 복합적인 사고 전략, 수학적 논리가 중요하다.

 가장 대표적으로 러셀의 수리논리가 있다. 러셀은 논리적 추론으로 경혐현상을 부정하고 본체가 초월적임을 증명하는 방법은 옳지 않고 필요도 없다고 여겼으며, 철학은 마땅히 그 근본문제를 설명하여 과학의 기초로 삼아야 하고 현상을 부인하거나 과학을 취소해서는 안 된다고 보았다. 그는 자신의 수리논리로 우주의 대체적인 모습이 어떤지 구성하고, 스스로 하나의 우주를 건립하여 현상을 해석하고 과학으로 하여금 제자리를 잡게 하려고 하였다.

또한 그런 우주의 ‘대체적인 모습’은 누구나 구성할 수 있지만, 드넓은 바다와 하늘이 우리를 포용하여 마음대로 노닐게 하는 것처럼 논리에 속박되지 않고 해방되어야 한다고 하였다. 그는 철학이 너무 고정되어서는 안 된다고 생각하였다.

<나의 생각>

‘수리논리‘에 대한 말은 처음 들어보았는데 철학 ’러셀의 수리논리‘였다. 수학과 철학은 연관이 있는 걸까? 라는 궁금증이 생겼는데 자료를 찾다보니 많은 연관이 있다는 것을 알게 되었다. 수학의 목적은 문제를 풀어 답을 찾는 것도 아니고 공식 같은 우리가 아주 당연하게 생각하는 것들을 증명하는 것이다. 증명은 상대를 설득시키기 위해 논리적으로 적는 것이다. ’논리학은 수학의 청년 시대이고, 수학은 논리학의 장년 시대이다.‘ 라는 버트런드 러셀의 유명한 명언이 있다. 여기서도 알 수 있다시피 수학은 논리와 일체된 학문이라 할 수 있다. 수학자이면서 철학자인 버트런드 러셀, 앨프리드 화이트헤드, 알랭 바디우의 경우 자신의 사상을 수학적 집합론으로 푼 것을 보아도 알 수 있다.

또한 집합... 항상 생각하는 것이지만 수학은 실생활과 매우 연관이 있다. 수학을 배우다 보면 대체 어디에 사용되는 것일까 랴는 생각이 들지만 실은 매우 가까이 있다. 모임의 조직, 자료의 종합과 분류, 주소록을 만들 때 등 분류를 하고 모으는 모든 개념에서 사용되는 것 같다.

'올바른 수학을 찾아서' 김병한 교수님의 논문이 이해하는데 도움을 주었다.