Loading...

AI 뉴스

새로운 연구들이 AI 의식 모델에 도전

페이지 정보

작성자 이수
작성일 2025.12.26 19:07
369 조회
0 추천
0 비추천

본문

df0d02ba5b407c9b1b1c2be4e0b74555_1766743609_774.jpg
 

전통적인 뇌 지도가 도마 위에 오르다

Nature Neuroscience 논문은 뇌를 개별적인 기능 영역으로 나누는 한 세기 된 관행에 도전하고 있으며, 이는 신경과학자들이 인지를 연구하는 방식의 초석이었다. 연구자들에 따르면, 세포 구조와 연결 패턴과 같은 뇌 기능의 주요 결정 요인들은 일관된 구분을 거의 만들어내지 않는다. "뇌 영역 자체는 동등하게 중요한 여러 조직 원리 중 하나일 뿐이며, 다른 원리로는 거시적 구배, 분산 네트워크, 층, 기둥 및 패치가 있다"고 저자들은 기술한다.nature 4

이 비판은 해부학을 넘어 확장된다. 많은 인지 기능들은 특정 영역에 국한되기보다는 분산된 뇌 네트워크에 걸쳐 구현되는 것으로 보인다. 이는 특정 뇌 영역을 특정 정신 능력과 연결하는 관행—신경과학 교과서와 미디어 보도의 주요 내용—이 인지가 실제로 작동하는 방식을 지나치게 단순화할 수 있음을 시사한다.bioengineer 1

  1. https://www.nature.com/articles/s41593-025-02166-z
  2. https://bioengineer.org/rethinking-brain-area-centrality-in-functional-organization/
  3. https://www.nature.com/neuro/articles?year=2025
  4. https://x.com/PessoaBrain/status/2003494177645158445
  5. https://www.nature.com/subjects/cognitive-neuroscience

​왜 디지털 AI는 의식을 가질 수 없는가
12월 17일에 발표된 생물학적 계산주의 논문은 또 다른 정설을 겨냥한다. 즉, 의식은 물리적 기질과 무관하게, 올바른 정보 처리 패턴에만 의존한다는 가정이다. 밀린코비치와 아루는 생물학적 뇌가 디지털 시스템과는 근본적으로 다른 유형의 계산을 수행한다고 주장한다.studyfinds 4 

그들의 틀에 따르면, 뇌는 현재의 AI에는 없는 세 가지 핵심 특성을 보여준다. 연속적인 역학과 이산적 사건을 결합한 하이브리드 계산, 알고리즘과 물리적 구현을 분리할 수 없는 “스케일-불가분(scale-inseparable)” 처리, 그리고 계산 구조 자체를 형성하는 대사적 제약이다. 연구자들은 “알고리즘이 곧 기질이다”라고 적으며, 물리적 조직은 단지 계산을 지탱하는 것이 아니라 바로 그 자체가 계산을 구성한다고 주장한다.neurosciencenews 3

논문은, 가지를 뻗은 수상돌기를 가진 단일 생물학적 뉴런이 8층 인공 신경망에 맞먹는 계산을 수행할 수 있다고 지적한다. 이러한 능력은 이온 흐름, 전기장, 막 전위와 같이 실시간으로 전개되는 연속적인 물리 과정에서 비롯되며, 이들은 이산적인 디지털 근사로는 복제될 수 없다고 한다.phys 3

“현재 AI 아키텍처를 단순히 확장하는 것으로는 이 간극을 메울 수 없다”라고 저자들은 결론내린다. 인공 의식을 구축하려면, 생물학적 뇌를 특징짓는 연속적이고, 스케일이 통합되어 있으며, 대사적으로 내재화된 처리를 수행할 수 있는, 근본적으로 다른 물리적 기질이 필요할지도 모른다.eurekalert 3

  1. https://studyfinds.org/what-makes-brains-conscious-that-computers-lack/
  2. https://neurosciencenews.com/consciousness-computing-ai-30068/
  3. https://phys.org/news/2025-12-path-consciousness-biological.html
  4. https://www.linkedin.com/posts/borjan-milinkovic-05952b337_neuroscience-biobehavioral-reviews-activity-7407474586876792832-GhPs
  5. https://www.eurekalert.org/news-releases/1110849

​과학과 기술에 대한 시사
이 논문들은 함께 신경과학이 개별적인 뇌 영역과 수십 년간 이 분야를 지배해온 컴퓨터 은유를 넘어서야 할 필요가 있음을 시사합니다. AI 개발에 있어서 그 함의는 냉엄합니다: 기계 의식을 달성하기 위해서는 단순히 더 나은 알고리즘뿐만 아니라 생물학적 조직처럼 작동하는 완전히 새로운 유형의 컴퓨팅 하드웨어가 필요할 것입니다.studyfinds 3 

Milinkovic와 Aru의 논문은 실험실에서 배양된 신경 배양체와 유체 멤리스터와 같은 신흥 기술을 잠재적 대안으로 지적하지만, 그러한 시스템이 의식을 지원할 수 있는지 여부는 여전히 불확실합니다. Hayden과 동료들은 전통적인 구획화와 함께 그래디언트, 네트워크, 미세 규모 구조 등 여러 조직 원리를 통합하는 신경과학 연구를 요구합니다.neurosciencenews 3

  1. https://studyfinds.org/what-makes-brains-conscious-that-computers-lack/
  2. https://neurosciencenews.com/consciousness-computing-ai-30068/
  3. https://phys.org/news/2025-12-path-consciousness-biological.html
  4. https://www.eurekalert.org/news-releases/1110849
  5. https://www.nature.com/articles/s41593-025-02166-z
  6. https://bioengineer.org/rethinking-brain-area-centrality-in-functional-organization/
댓글 0
전체 1,366 / 57 페이지
MIT 연구진은 대규모 언어 모델의 신뢰성을 훼손할 수 있는 취약점을 발견했으며, GPT-4 및 Llama와 같은 고급 AI 시스템조차도 때때로 진정한 이해보다는 문법적 지름길을 기반으로 질문에 답한다는 사실을 밝혔습니다.신경 정보 처리 시스템 학회(Conference on Neural Information Processing Systems)에서 발표될 예정인 이 연구는 LLM이 특정 문장 패턴을 특정 주제와 잘못 연관시킨 다음, 실제 질문을 이해하는 대신 이러한 학습된 패턴에 의존할 수 있다는 것을 발견했습니다. 이러한 결함은 정확한 응답이 중요한 의료, 금융 및 고객 서비스 분야에 배포된 AI 시스템에 위험을 초래합니다.의미보다 문법MIT 부교수 Marzyeh Ghassemi가 이끄는 연구팀은 Northeastern University와 Meta의 연구원들과 함께, 모델이 훈련 중에 “구문 템플릿”—품사의 패턴—을 특정 도메인과 연결하는 방법을 학습하는 과정을 입증했다.MIT News 기사에 따르면, LLM은 “파리는 어디에 위치해 있나요?“가 지리 질문과 관련된 특정 문법 구조를 따른다는 것을 학습할 수 있다. 문법적으로는 유사하지만 “빠르게 앉다 파리 흐림?“과 같이 말이 되지 않는 질문이 제시될 때, 모델은 질문이 무의미함에도 불구하고 여전히 “프랑스”라고 답할 수 있다.Northeastern University 대학원생이자 MIT 방문 학생인 Chantal Shaib는 “이것은 모델이 질문에 올바르게 답하기 위해 학습하는 간과된 유형의 연관성입니다”라고 말했다. 연구원들은 구문을 동일하게 유지하면서 단어를 동의어, 반의어 또는 무작위 단어로 대체했을 때, LLM이 질문이 완전히 말도 안 되는 경우에도 종종 올바른 답변을 생성한다는 것을 발견했다.보안 및 테스트 시사점이 취약점은 심각한 보안상의 영향을 미칩니다. arXiv에 게시된 연구에 따르면, 공격자들은 모델이 무해한 콘텐츠와 연관시키는 구문 패턴을 사용하여 유해한 요청을 표현함으로써 안전 가드레일을 우회하기 위해 이 현상을 악용할 수 있습니다.연구에 참여한 MIT 대학원생 Vinith Suriyakumar는 “이 연구를 통해 LLM의 보안 취약점을 해결하기 위해 더욱 강력한 방어 체계가 필요하다는 것이 분명해졌습니다”라고 말했습니다. 연구진은 GPT-4와 Llama를 포함한 사전 훈련된 모델에서 이를 테스트했으며, 학습된 행동이 성능을 크게 저하시킨다는 것을 발견했습니다.문제를 해결하기 위해 연구팀은 개발자들이 자신의 모델이 이러한 잘못된 구문-도메인 상관관계에 의존하는지 평가할 수 있는 자동 벤치마킹 절차를 개발했습니다. 연구진은 더 다양한 구문 템플릿을 포함한 증강된 훈련 데이터를 활용한 완화 전략을 탐구할 계획이며, 복잡한 다단계 작업을 위해 설계된 추론 모델에서 이 현상을 연구할 예정입니다.
581 조회
0 추천
2025.11.26 등록
메타 플랫폼스가 구글의 AI 칩 텐서처리장치(TPU)를 2027년부터 데이터센터에 도입하는 방안을 논의 중인 것으로 25일 알려지면서, 엔비디아가 장악해온 AI 반도체 시장에 균열이 생길 조짐을 보이고 있다. 이날 뉴욕증시에서 엔비디아 주가는 2.59% 하락한 177.82달러에 마감한 반면, 알파벳 주가는 1.62% 상승하며 시가총액 4조 달러를 눈앞에 두게 됐다.IT 전문매체 디 인포메이션은 24일 메타가 수십억 달러 규모로 구글의 TPU를 도입하는 방안을 검토 중이라고 보도했다. 메타는 2027년부터 자사 데이터센터에 TPU를 직접 설치하고, 내년에는 구글 클라우드를 통해 TPU를 임대하는 방안도 협의하고 있는 것으로 전해졌다. 현재 메타는 AI 학습과 서비스 운영에 엔비디아 GPU를 대규모로 사용하고 있어, 이 계약이 성사되면 엔비디아의 주요 고객사에 대한 영향력이 축소될 수 있다는 우려가 나온다.구글 제미나이3.0 성공이 TPU 확산 계기구글이 자체 AI 칩에 자신감을 갖게 된 배경에는 최근 공개한 AI 모델 ‘제미나이 3.0 프로’의 성공이 있다. 제미나이 3.0 프로는 LM아레나 리더보드에서 1501점을 기록하며 처음으로 1500점을 돌파했고, ‘인류의 마지막 시험’에서 정답률 37.5%로 챗GPT의 26.5%를 크게 앞섰다. 이 모델은 엔비디아 GPU 없이 100% 자체 TPU 클러스터만으로 학습됐다는 점에서 업계의 주목을 받고 있다.구글은 지난 10월 AI 챗봇 ‘클로드’를 운영하는 앤트로픽과 최대 100만 개의 TPU를 공급하는 수백억 달러 규모의 계약을 체결한 바 있다. 구글 클라우드 경영진은 TPU 도입 확대를 통해 엔비디아 연간 매출의 최대 10%를 확보할 수 있을 것으로 보고 있다고 디 인포메이션은 전했다.엔비디아 즉각 반박, 삼성전자는 수혜 전망엔비디아는 25일 소셜미디어 엑스(X)를 통해 “우리는 업계보다 한 세대 앞서 있으며, 모든 AI 모델을 구동하고 컴퓨팅이 이뤄지는 모든 곳에서 이를 수행하는 것은 우리 플랫폼뿐”이라고 강조했다. 엔비디아는 “TPU 같은 주문형반도체(ASIC)보다 뛰어난 성능과 다용성, 호환성을 제공한다”고 덧붙였다.구글도 성명에서 “맞춤형 TPU와 엔비디아 GPU 모두 수요가 늘어나고 있다”며 “우리는 수년간 그래왔던 대로 양쪽 모두를 지원할 것”이라고 밝혔다.증권가에서는 TPU 생태계 확장의 최대 수혜자로 삼성전자를 꼽고 있다. 김동원 KB증권 연구원은 “구글 TPU 설계와 생산을 담당하는 브로드컴의 경우 삼성전자가 메모리 공급 점유율 1위를 기록하고 있어 향후 구글 TPU 생태계 확장의 최대 수혜가 기대된다”고 분석했다. SK하이닉스도 구글 TPU에 HBM을 공급하고 있어 AI 생태계 다변화로 수혜를 볼 것으로 전망된다.
620 조회
0 추천
2025.11.26 등록
제품 리더 Aakash G와 OpenAI의 Miqdad Jaffer는 모델 품질보다는 컨텍스트 엔지니어링—사용자 기록, 관련 문서, 시스템 제약 조건과 같은 올바른 정보를 AI 모델에 제공하는 관행—이 AI 기능이 훈련이 부족한 인턴처럼 실패하거나 성공하는지를 결정한다고 주장합니다.이 글은 Apollo의 이메일 작성기를 통해 이를 보여주는데, 엔지니어들이 대화 스레드, CRM 노트, 회사 톤, 관계 컨텍스트를 계층화한 후에야 일반적인 출력에서 출시 가능한 품질로 발전했습니다.전체 코드베이스를 인덱싱하고 벡터 데이터베이스를 통해 관련 코드를 검색하여 연간 10억 달러 이상의 수익을 달성한 AI 코딩 어시스턴트 Cursor는 컨텍스트 엔지니어링이 어떻게 경쟁 우위를 만들어내는지를 보여주는 사례로, Google이 이 기능을 내부에서 구축하는 대신 경쟁사인 Windsurf와 24억 달러의 라이선스 계약을 체결하게 만들었습니다.
625 조회
0 추천
2025.11.26 등록
하버드 비즈니스 리뷰 분석에 따르면, AI 에이전트는 아직 소비자 대상 애플리케이션에 충분히 신뢰할 수 있는 수준이 아니며—보안 및 정확성에 대한 우려로 인해 소비자의 76%가 구매에 이를 사용하는 데에 소극적인 것으로 나타났습니다—하지만 구조화되고 반복적인 작업 및 인간의 감독이 한계를 보완할 수 있는 백엔드 엔터프라이즈 운영에서는 실질적인 가치를 제공하고 있습니다.주요 유럽 인터넷 제공업체와의 사례 연구에서는 현장 기술자를 지원하기 위해 멀티 에이전트 시스템을 도입하여, 문제 해결 시간을 60% 단축시키고 연간 100만 유로 이상의 반복적인 비용 절감과 함께 고객 만족도를 크게 향상시켰다는 잠재력을 보여주었습니다.이러한 점진적 개선은 혁명적인 변화라기보다는 린 제조(Lean manufacturing) 방법론에 가깝고, 엔터프라이즈 적용에는 세밀한 프로세스 매핑, 광범위한 IT 시스템 통합, 그리고 실제 환경에서 프롬프트 기반 시스템이 일반적으로 70% 이상의 정확도를 넘지 못하게 하는 AI 환각(hallucination)에 대한 관용이 요구됩니다 .
621 조회
0 추천
2025.11.26 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입