앞선 이야기에서 끄적 끄적을 마칠려고 했는데, 시간이 없고 갑작스레 끄적이다 보니 일단 급하게 마무리 짓고 넘어갔다.
앞전에서는 어떻든 생각을 해보면 70년대 부터라고 알고 있는데..(이건 좀 확인이 필요..) 이 무렵 부터 저런 캐시 메모리라는 귀한 메모리를 모셔놓고, 지능적으로 이 애를 쓰는 방식을 통해, 저렴하면서도 빠른 속도를 쓸 수 있었고, 가장 절충적인 시스템으로서 캐시 메모리는 자리를 잡았다.
현재는 이 캐시 메모리도 L1,L2, L3등으로 분류하면서 그나마 L1,L2같은 캐시 메모리는 cpu안에 내장을 시켜 버리는 형태로 보다 더 빠르게 하기위해 말그대로 짜낼 방법은 다 짜내가는 식의 형태로 진화를 해 오고 있다. 물론 마찬가지로 이 안에는 역시나 "로컬리티"라는 하나의 "추측과 예측, 교묘한 통빡.."이 고려되어있다.
통빡이라는 표현을 썼지만 사실은 이렇게 해서라도 지능적으로 최대한 효율적이게 쓰면서 속도를 낸다면 이 만한것도 없을것이다.
잠깐, AI의 딥 러닝 이야기를 해 볼까 한다. 물론 내가 아는 정도는 얼마 되지 않기때문에 이 바닥의 전문적인 부분들은 아마 추가적인 검색을 통해알아봐야 할것이다. 일단 내가 잠깐 잠깐 봤던 관련영상이나 정보를 통해 보면.. 이 딥러닝은 소위 AI를 학습을 하는 다양한 기법중에 하나인데, 과거에는 두 가지 방식이 있었다고 한다.
하나는 논리적 방식이다. 이 방식은 모든 그림이나 사진들을 세부적으로 학습자가 인식시켜주는 방식이었다고 한다. 대개 이 방법을 통해서 학습을 하였는데, 도무지 학습 효과가 크게 늘지 않았다는거다. 그러던 중에.. 여기서 딥 러닝에 일대 혁명같은 일이 등장하는데, 방식을 다른 방식으로 바꾸고 났더니 갑자기 눈에 띄게 학습 효과가 증가했다는것이다.
* 처음에 저분을 봤을때, 이름이 눈에 익어서 혹시 내가 그전에 본 그 힌턴의 가문이 아닐까 검색을 해보니 맞다. 처음엔 제미나이한테 물어봤는데 얘는 모르고 있었다. 아무래도 아닌것같아서 내가 직접 검색을 통해 확인 해보니, 역시나 내가 읽었던, 호르헤 루이스 보르헤스가 모아논 환상문학 전집의 "바벨의 도서관"시리즈에 나오는 "찰스 하워드 힌턴 - 평면세계"가 이분의 증조부 였고, 직계는 아닌걸로 확인되지만, (직계가 맞는것같다.).. 뿐만 아니라 집안 자체가 과학쪽으로는 유서깊은 집안 이었다. 힌턴이라는 이름을 떠올린것도 증조부였던 힌턴 역시도, 다차원이나 4차원같은 것과 관련된 글을 쓰던 분이다. 그래서 더욱더 어떤 논리적 방식을 벗어나 과감하게 인공 신경망이라는 다소 모호한 측면을 파고든것도 이런 뭔 현실을 넘어서는 차원 관련된 부분을 생각했던 그 증조부의 영향이나 분위기도 있었을까..?
자세한 얘기는 생략하고 좌우간 당시의 논리적 형태의 학습방법 그러니까 어떤 사물의 형태를 일일이 설명하거나 인식시켜주는 방식에서 답보상태를 보이던 흐름에서 이분은 그 흐름을 박차고, 인공신경망 방식을 적용시켜봤던 분인데.. 이게 굉장히 좋은 효과가 있었던것이다.
인공 신경망 방식은 인간의 뇌가 가진 방식을 응용하므로서 외려 일일히 설명해 나가는게 아니라 어느정도 연관성 있는것들을 그냥 주입시키면서 그 스스로가 학습하게 만드는 것 방식을 썼는데, 이걸 적용시키고 나서 갑자기 컴퓨터가 판단과 인지능력이 점프를 해버린 사건이 등장한것이다.
그러니까, 어떻게된게 지가 스스로 계속해서 되 반복을 시켰더니 외려 학습을 더 잘하더라는게 핵심..
이 부분에 대한 이해는 검색과 관련영상을 찾아보면 더 알 수 있을것이다.
한 유튜브 영상에서..(참고했던 영상 링크는 하단에 ..) 이 부분을 설명하면서 갑작스런 변화가 떡~하고 등장했다고 표현을 하는것을 보면 확실히 큰 효과가 있었던 모양이다. 과학자가 이렇게 말씀하시는걸 보면, 이 현상이 참 기현상이긴 했던 모양이다. 사실 내가 느끼기에도 그렇다.
어쨌건 이 이후 부터는 모두가 바로 이런 되 새김질에 의한 방식 인공신경망 방식을 적용시켰고 이것이 현재의 모든 AI의 학습능력을 가져왔으니 혁명이 아닐 수 없다. 그 시작을 저 분이 한것이다.
다시 로컬리티로 돌아가서..
이제 내가 하고 싶은 이야기는, Chat GPT관련하여, 사실 이 생각을 했을때만도 deep seek사태가 터지기 직전이었다. 그때 내가 어떤 생각을 했었냐면, 현재의 nvdia의 독주로 다른 반도체 설계 분야가 강한 압박을 받고 있었던 분위기에서, 또한 제미나이를 잠깐 사용해 본 경험에 의해서..___지금은 궁금할때 마다 바로 바로 대화로 질문하고 답변을 받는 식의 일종의 개인 비서처럼 이용하는데, 이것은 특히나 전문 서적이나 강좌 혹은 영상등을 볼때 따로 검색하지 않고 바로 바로 물어볼때 요긴하다.___
좌우간 그런 분위기에서 sk나 삼성, 혹은 국내의 스타트업 기업들이 지나치게 어떤 고 성능위주로만 생각하고 있는게 아닌가? 기술을 따라 잡아야 간다 뭐 이런. 저 독주를 어떻게 깨느냐.. 저 아성을 어떻게 넘느냐 이런..
이때, 나는 캐시메모리를 가져다가 영리하게 사용하는 이 방식을 보고, 또 제미나이를 내 나름대로 이거면 이거대로 나름대로 편리하게 이용하면서.. (사실 이때만 해도 chatGPT가 최강이었고 제미나이는 별로 눈에 들어오지 않았을땐데...) 문득 굳이 그런 기술적 우위를 쫓아가는것만 마냥 기다릴 수 있는가? 이렇게 조그만 캐시 메모리라도 가져다가 우리가 일단은 모두가 A.I의 맛을 보는 그러면서 이 현상에 적응하는 것을 그냥 이대로 시작하면 되지 않을까..? 이런 생각을 했었다.
어쩌면 우리가 알게 모르게 AI를 100%책임지고 어떤 완성본을 너무 만들 생각만 하고있는게 아닌가.. 사실 일상 생활속에서는 단순히 일일히 검색하는것을 대화를 통해서 바로 바로 답변만 받아도 일단은 모두가 그 편리함과 시간의 절약등을 느낄 수 있고 본격적인 AI시대를 대비해서 미리 미리 약하게 나마 이 새로운 "뉴 미디어(매클루언 말마따나)" 익숙해지는 시간을 가져가는 것도 나쁘지 않을까..?" 를 생각해 봤다. 물론, HBM같은 기술적 개발은 당연히 대규모급 차원에서의 기획과 논의도 있어야 하겠지만 그렇다고 나머지가 가만히 있을이유는 없지 않을까..?
앞서 로컬리티의 사례처럼 실은 우린 어느정도의 분량만 사용하고 어느정도의 질문과 답변만을 원한다. 그게 반드시 모든게 다 100%로 작동 되지 않는다면 질문을 하는 우리가 보다 더 세밀하게 질문을 하거나 혹은 까짓거 조금 느리면 기다려 주던가 하면 되는것아닌가.. ? 사실 생각해보면 우리가 인간끼리 소통할때도 대화 상대에 맞게 간혹 내가 질문을 느리게 하거나 단도직입적이 아니라 겉에서 부터 천천히 들어가는 식의 대화나 이런 노력들을 하게 되는데 그게 기계라고 해서 굳이 그렇게 않해줄 이유도 없지 않은가..? 일단 기술력이 되면 되는데로 우리가 그부분을 또 맞춰 주면서 가도 되지 않을까..
이게 중요한 이유는 갑작스럽게 AI의 편의의 시대로 넘어가기 이전에 일정부분 이것에 대한 거부감이나 적응력을 갖춘 그런 시민들이 형성될 수 있는 장점이 있다. 새로운 미디어는 갑자기 등장하면 일대 혼란이 등장하는데 그 전에 먼저 가볍게 적응 할 수 있는 시간과 이 과정에서 생기는 다양한 문제들을 미리 체크 하고 대비 할 수 있는 시간들을 가질 수 있는것도 기술적으로 아직은 쪼금 부족한 상태에서 먼저 진행 되는것도 나중에 혼란스런것 보단 나쁘지 않다고 생각되기때문인데..
우리들이 대화 혹은 질문에 대한 답변, 혹은 전문분야에 대해서 일일이 검색하지 않고 바로 바로 물어 볼 수 있는 척척박사를 간편하게 손 안에 두고 있다는 장점.. 조금느리거나 혹은 폭넓게 답을 받지 못한다고 하더라도 이 "뉴미디어"에 길들여지거나 흡수 할 수 있는 내공은 쌓이는 것일테니 말이다. 그런 생각이 들었다.
그런데 얼마후 deep seek가 바로 그런 형태의 AI를 내놓았고, 그 이후 각국은 그냥 그 상태로라도 일단은 서비스를 내놓기 위해 비교적 가볍고 현실적으로 일단 편리하게 응용할 수 있는 AI를 내놓기 시작한것같다. 내가 그렇게 느껴 그런지 이 부분이 굉장히 급물살을 "갑자기" 타기 시작하는것 같다. 어차피 NVDIA가 가진 기술력과 아성도 쉽게 무너지거나 하지는 않을것이다. 왜냐하면 이런 대규모급의 처리 장치도 있어야 하기때문이다 보다 정확하고 포괄적인 정보를 파악하고 활용하면 좋으니까.. 그러니까 좋은 경쟁자이면서 제왕으로서의 권위를 누릴만 하다고 보기때문에.. 이쪽 부분은 이쪽 부분의 세계에서 분주히 진행해 나갈 것이다. 그에 맞춰 우리는 삼성이나 sk하이닉스.. 같은 기업들이 분주히 움직이는것같다.기술적 파트너 혹은 버금 가는 기술의 취득측면에 있어서.. 특히 ..어쨌건 이쪽세계에선 이쪽세계에서의 노력이 필요하겠지..
국내 스타트업 기업들도 큰 기술적 하드웨어 같은것들이 좀 떨어지더라도 , 이를테면 러닝기법이나, 로컬리티를 고려했던 것처럼.. 어떤 지능적인 측면을 공략해서 효율적으로 써 먹는 방법, 또 정 안되면 학습 자체를 일정부분 자율로 남겨놓고 시장에서 AI가 움직이면서 배워나가는 식의 이런식으로 생각하면 보다 쉽게 접근 할 수도 있을것같고, 유저들도 현재의 상황에서 우리도 이 정도는 저렴한 대신에 받아간다는 생각들로 이용해 나간다면 , 즉, 질문을 하는 사용자들 입장에서도 "그래 일단 이 정도는 받아간다.".. 그럼 보다 더 어렵지 않게 먼저 사용할 수 있지 않을까 싶어서 끄적여 봤다.
* 물론 이 과정에서 주의 할 사항이나 우려되는 사항들이 많은데, 얼마전에 봤던 영상에서 지적한 걸 봤는데, 어쨌건 양질의 데이터라는게 어디선가는 양산되고 저장이 되는 것도 있어야지 마냥 놔두면 같은 정보를 반복적으로 가져다 쓰는데 있어서 데이터의 질적 저하나 훼손이나 오염등의 문제.. 또한 지브리 스튜디오 관련한 어떤 지적 재산권 문제.. 또한 개인정보와 관련된 보안문제등등...
이런 문제들이 야기 될 수 있다는것을 충분히 감안해야 할것이다. 그렇기때문에 이런것들에 대해 미리 파악하고 적응 할 수 있는 이런 시간을 가져가려면 먼저 가볍게 사용하는 시대에 판단하고 분별하고 적응할 수 있는 .. 즉 뉴미디어에 적응하는 기간을 먼저 가져가는것도 나쁘지 않을것이라 본다.
그런생각이 들어서 끄적여 봤다.
크게 나가면, 로봇들과 아주 다양한 것과 융합되고 결합된 형태의 모델들이 나올텐데, 사실 근본은 인간을 이해하고 인간과 함께 하는것이다. 모든것은 사실 그것이 최우선인것인데.. 그렇기 때문에라도 하드웨어적인게 좀 떨어져도 우리가 적응할 시간, AI가 우리와 대화하면서 이해하고 판단하며 적응해 나가는 시간.. 우리도 여기에 적응해 나가며 AI시대형 인간이 되어가는 (되어갈 수 밖에 없다고 보는 표현이 맞겠지만..) 여기에 일단 하드웨어적 거대한 기술적 의미가 반드시 필요한것은 아니니까..
참고
https://youtu.be/I0UJ5bn0o-I?si=8nLk4ASkLHMMG4QK
https://youtu.be/A7PbaeuVhNA?si=jlJ0NvpRT6H7qF2G
https://youtu.be/RjDijmYZftg?si=8bYiv7xER1Muoqsb
당연히 그렇다고 무조건 급하게 들어가는것도 안될것이다. 차라리 늦게 가면 늦게 가더라도 맞추면서 가는것이 핵심이 아닐까..
* (사족) 제프리 힌턴 관련하여, 그 분 고조부님이 "Bool대수"를 만들었던, George Bool인데.. 아이러니 하게도, 이 부분은 프로그래밍에서 참과 거짓 판단하는 bool 타입이 여기서 온건데.. 이 1과 0을 판단하는 것과 관련한 업적을 만든분이 고조부님. 증조부는 평면세계에서 4차원과 관련한 이야기를.. 그 아랫 손자인 힌턴은 그런 1과 0의 논리적 파악을 하다가, 뉴럴 이라고 하는 경계 모호한 영역의 딥 러닝 기법으로 명성을 날렸다는것.. ㅎ 재밌다.