요즘 NVidia GPU 가 패권전쟁속 핫 이슈인데 .... 세상이 변해서 저 같은 소기업도 분석이 어느 정도 가능한데 한국의 대기업이나 미국의 빅테크는 저 같은 소기업은 불가능하다 의 저의 개인적인 분석의견 올립니다 ....
사실 저는 일인 AI 스타트업 딥네트워크 CEO / CTO 장석원 61 세 입니다 ... 사실 저는 엔비디아 GPU 든 아니면 팹리스의 NPU 든 이런 AI 칩 설계 노하우도 분석중이구요 궁금한 점은 미국 빅테크 엔비디아 는 어떤 GPU 설계든 Reasoning LLM 설계든 어떤 기술 이슈의 해결 방안을 해결 방안 의 요청이 저 같은 소기업에게 가능하실지 상당히 궁금 합니다 ... 사실 엔비디아가 하는 GPU 사업과 GPU 로 AI 인프라 구축에 필요한 SW 노하우들 이런것들도 저도 부족하지만 분석중 이거든요 ... 공부해 보니 GPU 라는것이 FP16 / FP8 같은 부동소수점 연산장치 몇천개를 GPU 에 구현하고 이 몇천개의 FP16 같은 연산장치를 LLM 모델 구조하에서 예를들어 어텐션 연산 처리시 어떤식으로 병렬학습 및 분산학습이 가능하게 SW 가 병렬제어 처리가 가능하게 수천개의 FP16 장치 각각에 어떻게 연산이 필요한 입력데이터는 어떻게 AI 인프라 구조에서 어떻게 읽어와야 하는지 그리고 이렇게 FP16 의 연산처리를 어떻게 AI 인프라에 결과를 어떤식으로 전달할지 .... 그 와중애 필요한게 요즘 핫한 HBM 이구요 .... 저두 누구한테 밀리지 않는다고 생각하는 LLM 분야 4 년 수백 수천가지 이슈 분석하면서 빅테크는 이런걸 어떻게 해결하는지 그런것들 분석 하고 있거든요 ... 저두 IT 분야 30 년 일하고 있구요 ... 저두 한 4 년 LLM 공부해 보니 느끼는것은 솔찍히 빅테크 논문의 새로운 논문의 핵심 아이디어가 이미 상당히 발표되서 이를 뛰어넘는 아이디어를 내가 낼수 있다 가 저두 IT 분야 30 년 경력으로 거의 불가능 이라고 보거든요 ... 그리고 LLM 사전학습 /사후학습 처리의 세부 모델 구현도 공부해 보니 토큰나이징 을 내 독자기술로 가능하다고 이야기 가능한 기업이 과연 미국 빅테크 말고 가능한 기업이 있었나요 ? 사실 한국 이나 미국 이나 LLM 으로 뭔가 확실히 공부해 두면 조그만 돈벌이 라도 될줄 알았는데 ... 저는 이제 기대 안합니다 ... 그래서 이제는 장거리 저전력 무선통신 로라 통신 들어 보셨나요 ? 이게 간단한것 처럼 보이지만 통신 시스템 구현 이라 LLM 만큼이나 간단치 않거든요 .... 이것 저는 약 95 % 로라 통신 미국 인증까지 어떤것들에 대해 어디까지 공부해야 하는지를 알기에 그래서 95 점 정도로 확실하게 구현 가능한 기술력으로 밥벌이를 하려 하는데 경기가 얼어붙어 이런 통신시스템 구현 및 인증을 두달에 1500 에 가능하냐는 강남의 IT 기업 상무 같은 업체뿐이라 참 어떻게 돈벌이를 하나 해결책이 그저 짙은 안개속 입니다 .....
일인 AI 스타트업 딥네트워크 CEO / CTO 장석원 sayhi7@daum.net 010 3350 6509