로그인
회원가입
계정찾기
AI Services

AI 뉴스

AI를 이용한 보안 위협...Grok을 통한 악성 코드 유포

skyL
09.06 11:24
10
0
0
목록
180070e668e665e152005789db83dfdee4mg.png

 

사이버 범죄자들이 X의 Grok AI를 악용하여 악성 링크를 유포하는 새로운 기법이 발견되었다고 합니다. Guardio Labs의 나티 탈이 이 기법을 Grokking이라고 명명했다고 합니다.

이 방법은 X의 광고 보호 시스템을 우회하는 방식으로 작동한다고 합니다. 범죄자들은 성인 콘텐츠를 미끼로 사용한 비디오 카드 광고 게시물을 올리고, 악성 링크를 비디오 플레이어 아래 From 메타데이터 필드에 숨겨둔다고 합니다. 이 부분은 X 플랫폼에서 스캔하지 않는 영역이라고 합니다.

다음 단계에서 사기꾼들은 해당 게시물에 댓글로 Grok을 태그하고 이 비디오가 어디서 나온 것인지 묻는다고 합니다. 그러면 Grok AI 챗봇이 응답으로 해당 링크를 눈에 보이게 표시한다고 합니다.

탈은 수백만 조회수를 기록한 게시물에서 Grok이 링크를 언급함으로써 SEO와 도메인 신뢰도가 증폭된다고 설명했습니다. X에서 명시적으로 금지하는 악성 링크가 시스템이 신뢰하는 Grok 계정의 게시물에 나타나 수백만 피드와 검색 결과로 확산된다고 합니다.

이 링크들은 사용자를 의심스러운 광고 네트워크로 보내서 가짜 CAPTCHA 사기, 정보 탈취 악성코드 및 기타 의심스러운 콘텐츠로 연결된다고 합니다. 해당 도메인들은 동일한 Traffic Distribution System의 일부로 평가되며, 이는 악성 광고 기술 업체들이 유해하거나 기만적인 콘텐츠로 트래픽을 라우팅하는데 자주 사용된다고 합니다.

Guardio는 지난 며칠 동안 이런 행동을 하는 수백 개의 계정을 발견했다고 했으며, 각각이 수백 또는 수천 개의 유사한 게시물을 올렸다고 합니다. 이들은 플랫폼 정책 위반으로 계정이 정지될 때까지 며칠 동안 논스톱으로 게시하는 것 같다고 합니다.

댓글 0
목록
전체 155 / 3 페이지
텐센트의 새로운 AI가 사진을 플레이 가능한 3D 월드로 변환
텐센트의 새로운 AI가 사진을 플레이 가능한 3D 월드로 변환
(퍼플렉시티가 정리한 기사)Tencent은 단일 이미지를 탐색 가능한 3D 세계로 변환하는 오픈소스 AI 모델인 HunyuanWorld-Voyager를 출시했습니다. 이 모델은 스탠퍼드 대학교의 WorldScore 벤치마크에서 77.62라는 최고 종합 점수를 달성해 WonderWorld(72.69)와 CogVideoX-I2V(62.15) 등 경쟁 모델을 능가했습니다.HunyuanWorld-Voyager는 7월에 공개된 Tencent의 이전 HunyuanWorld 1.0 모델을 기반으로 합니다. 새로운 시스템은 RGB 비디오와 깊이 정보를 동시에 생성해 사용자가 키보드나 조이스틱 컨트롤을 통해 가상 환경을 탐색할 수 있게 합니다. 9월 2일 Tencent의 발표에 따르면, 이 모델은 업계 최초로 네이티브 3D 재구성 기능을 갖춘 초장거리 세계 모델입니다.기술 혁신과 성과이 모델은 이전에 생성된 3D 포인트를 저장하는 "월드 캐시" 메커니즘을 사용하여 확장된 가상 공간에서 일관성 있는 탐색이 가능합니다. 기존의 비디오 생성 방식과 달리, Voyager는 49개의 프레임이 포함된 2.5초 길이의 클립을 생성하며, 이를 이어 붙이면 더 긴 시퀀스도 만들 수 있습니다. 시스템은 캐시에 저장된 3D 포인트를 새로운 카메라 뷰에 투영하여, 다른 월드 생성 모델에서 흔히 발생하는 시각적 결함을 피하면서 공간적 일관성을 유지합니다.Tencent는 10만 개 이상의 비디오 클립을 분석한 자동화된 데이터 파이프라인을 통해 Voyager를 학습시켰으며, 실제 영상과 Unreal Engine의 합성 렌더 파일을 조합했습니다. 이 접근 방식 덕분에 카메라 움직임과 깊이 정보에 대한 수작업 주석이 필요하지 않았습니다. 이 모델은 객체 제어(66.92), 스타일 일관성(84.89), 주관적 품질(71.09) 등 여러 WorldScore 분야에서 우수한 성과를 냈으나, 카메라 제어 부문에서는 WonderWorld의 92.98점에 이어 2위를 차지했습니다.하드웨어 요구 사항 및 제한 사항Voyager를 운영하려면 상당한 컴퓨팅 리소스가 필요하며, 540p 해상도 출력을 위해 최소 60GB의 GPU 메모리가 필요하고, 최적의 결과를 위해 텐센트는 80GB를 권장합니다. 이 회사는 단일 및 다중 GPU 구성을 모두 지원하는 코드와 함께 모델 가중치를 Hugging Face에서 제공하고 있습니다.그러나 이 모델은 유럽 연합, 영국, 대한민국에서의 사용을 제한하는 라이선스 제한이 있습니다. 월간 활성 사용자가 1억 명을 초과하는 상업적 활용의 경우 텐센트와 별도의 라이선스 계약이 필요합니다. 이러한 제한은 텐센트의 훈위안(Hunyuan) 생태계 내 기타 모델에도 적용되며, 이는 회사의 지역별 라이선스 정책을 반영합니다.시장 환경 및 응용 사례이번 출시로 텐센트는 인터랙티브 3D 세계 생성 시스템을 개발하는 기타 기업들과 어깨를 나란히 하게 되었습니다. 구글은 8월에 Genie 3를 발표했고, 다이나믹스 랩의 Mirage 2는 사진을 플레이 가능한 공간으로 변환할 수 있도록 해줍니다. Voyager는 비디오 제작과 3D 재구성을 중점적으로 다루어, 순수한 인터랙티브 방식과 차별화됩니다.벤치마크 성과에도 불구하고, 전문가들은 현재의 높은 컴퓨팅 요구사항과 장기간, 일관된 장면 생성의 한계로 인해, 실시간 게임이나 대규모 애플리케이션에서는 즉각적인 적용이 어렵다고 지적합니다. 해당 기술은 AI 기반 가상 세계 창조의 진보를 보여주지만, 대중적 도입은 하드웨어 사양과 라이선스 제한으로 인해 여전히 제약을 받고 있습니다.
15
0
09.05
카카오톡에 챗GPT 탑재, 9월 23일 공식 발표
카카오톡에 챗GPT 탑재, 9월 23일 공식 발표
(퍼플렉시티가 정리한 기사)국민 메신저 카카오톡에 오픈AI의 생성형 인공지능 챗GPT가 탑재될 예정이다. 카카오는 메신저 앱 이탈 없이 채팅 탭에서 직접 챗GPT를 사용할 수 있도록 하는 기능을 개발하고 있으며, 이는 지난 2월 시작된 카카오와 오픈AI 간 전략적 제휴의 첫 결과물이 될 전망이다카카오톡 채팅 탭에 챗GPT 아이콘 탑재업계 관계자들에 따르면, 카카오는 카카오톡의 채팅 탭에 챗GPT 아이콘을 탑재하는 방식으로 서비스를 구현할 계획이다. 이용자가 별도 앱을 실행하지 않고도 카카오톡 내에서 특정 버튼을 클릭해 즉시 챗GPT와 대화할 수 있게 된다. 카카오는 또한 카카오톡 채팅방의 '샵(#) 검색' 기능에서도 챗GPT를 활용할 수 있는 방안을 검토 중인 것으로 알려졌다.정신아 카카오 대표는 지난 8월 2분기 실적발표에서 "그동안 AI 서비스 경험이 없던 이용자도 친구와 채팅 중 챗GPT 검색 결과를 공유받거나 하루에도 수십 번 접속하는 핵심 지면에서 챗GPT와 마주하면 자연스럽게 관심을 가질 것"이라고 설명했다.9월 23일 '이프 카카오'에서 공식 발표카카오는 오는 9월 23일부터 25일까지 경기도 용인 카카오 AI 캠퍼스에서 개최되는 연례 개발자 컨퍼런스 '이프 카카오25'에서 오픈AI와의 협업 결과물을 처음 공개할 예정이다. 컨퍼런스 첫날 정신아 대표가 카카오톡 개편과 신규 AI 서비스, 오픈AI 공동 프로덕트를 발표할 계획이다.정 대표는 "이프 카카오에서 오픈AI와 협업한 실제 제품 형상을 공개할 예정"이라며 "늦어도 다음 실적 발표 전에는 모두가 제품을 사용할 수 있을 것"이라고 예고했다. 이에 따라 카카오톡의 챗GPT 탑재는 빠르면 11월 전에 이용자들이 사용할 수 있을 것으로 전망된다.오픈AI 한국 법인 설립과 시너지이번 협업은 오픈AI의 한국 진출과도 맞물려 있다. 오픈AI는 지난 5월 한국 법인 설립을 공식 발표했으며, 오는 10일 한국 사무소 공식 출범을 앞두고 있다. 오픈AI 한국 법인은 서울 강남구 테헤란로에 설치되며, 전 세계 12번째, 아시아에서는 세 번째 거점이다.한국은 챗GPT 유료 구독자 수 기준으로 미국에 이어 전 세계 2위를 기록하고 있으며, 국내 월간 활성 이용자가 2000만 명을 넘어서는 등 오픈AI에게 중요한 시장으로 평가받고 있다. 카카오의 월간 활성 이용자는 4930만 명에 달해, 오픈AI는 이번 협력을 통해 한국 시장에서의 영향력을 크게 확대할 수 있을 것으로 기대한다.카카오 관계자는 "오픈AI와의 협업 프로젝트의 구체적인 형상 일부를 이번 이프카카오에서 공개할 예정"이라며 "구체적인 내용은 아직 확인해주기 어렵다"고 밝혔다.
9
0
09.05
로봇이 공기를 불어 숨겨진 딸기 수확 증대
로봇이 공기를 불어 숨겨진 딸기 수확 증대
(퍼플렉시티가 정리한 기사)워싱턴 주립대학교 연구진은 숨겨진 과일을 드러내기 위해 새로운 공기 분사 시스템을 사용하는 AI 기반 로봇 딸기 수확기를 개발하여, 200억 달러 규모의 도전적인 딸기 시장에서 농업 자동화의 중요한 돌파구를 마련했습니다.이 로봇은 7월에 Computers and Electronics in Agriculture에 게재된 연구에서 자세히 소개되었으며, 기계적인 잎 조작 대신 공기 흐름을 활용한 로봇 딸기 수확의 최초 야외 현장 규모 시연을 보여줍니다. 이 시스템은 인공지능 비전 기술과 부드러운 실리콘 그립퍼, 그리고 관을 통해 일정한 공기 흐름을 불어넣어 잎을 부드럽게 옆으로 옮기는 팬을 결합합니다.혁신으로 노동력 부족 해결하기딸기 산업이 심각한 노동력 부족에 직면하면서 비용이 증가하고 수확이 제한될 수 있다는 점에서 이 혁신이 등장했습니다. Technology Networks에 따르면, 200억 달러 규모의 딸기 시장은 앞으로 10년 동안 연평균 6% 성장할 것으로 예상되어 자동화 솔루션이 점점 더 중요해지고 있습니다.연구 팀은 WSU에서 박사 학위를 마친 후 덴마크의 오르후스 대학교에 합류한 Zixuan He가 이끌었으며, WSU에서 근무하다 현재는 코넬 대학교에 있는 Manoj Karkee, 그리고 WSU의 정밀 및 자동화 농업 시스템 센터의 전임 교수이자 전임 이사인 Qin Zhang도 포함되어 있습니다.기술적 성과 및 결과실험실 및 현장 실험 결과, 수확기는 평균적으로 80%의 정확도로 딸기를 올바르게 감지했으며, 딸기가 숨겨져 있는지를 93%의 정확도로 분류했습니다. 공기 시스템은 효율성에 있어 매우 중요한 역할을 했습니다. 팬이 없을 때 로봇은 익은 과일의 58%를 수확했지만, 팬 시스템을 사용할 경우 수확률이 74%로 향상되었습니다.이 로봇은 색상과 깊이 이미지를 모두 포착하는 3D 카메라 시스템을 사용합니다. "과일의 특성 정보를 깊이 정보와 맞춘 후 머신러닝 모델을 활용해 딸기를 찾아내고, 그 위치를 파악할 수 있습니다," 라고 그는 설명했습니다.상업적 실현 가능성의 도전과제유망한 결과에도 불구하고, 상업적 배치를 위해서는 여전히 과제가 남아 있습니다. 현재 이 시스템은 팬 시스템을 사용하여 딸기를 식별하고 수확하는 데 평균 20초가 걸리며, 현장에서의 실용성을 위해서는 속도 개선이 필요함을 나타냅니다.그는 이러한 기술이 가까운 미래에 인간 노동자를 완전히 대체할 가능성은 낮다고 언급했습니다. "지금으로서는 수작업을 완전히 대체하지는 못하지만, 현장에 충분한 인력이 없을 때 매우 유망한 보조 수단이 될 수 있습니다,"라고 그는 말했습니다.팬 시스템 기술은 딸기뿐만 아니라, 포도와 같이 가려짐 문제를 겪는 다른 농작물에도 적용되어 그 농업적 활용 범위를 확장시킬 수 있을 가능성이 있습니다.
16
0
09.05
오픈AI, AI 채용 플랫폼으로 링크드인에 도전장
오픈AI, AI 채용 플랫폼으로 링크드인에 도전장
(퍼플렉시티가 정리한 기사)OpenAI는 2026년 중반까지 AI 기반 채용 플랫폼을 출시할 계획을 발표하며, 핵심 ChatGPT 제품을 넘어 사업을 확장함에 따라 회사가 LinkedIn과 직접 경쟁하게 될 것이라고 밝혔습니다. 또한 회사는 OpenAI 아카데미를 통해 종합적인 AI 인증 프로그램을 공개했고, 소매업계 대기업 Walmart 등과 협력하여 2030년까지 1천만 명의 미국인을 인증하겠다는 야심찬 목표를 제시했습니다.링크드인에 도전하는 구인 플랫폼2026년 중반에 출시될 것으로 예상되는 OpenAI 채용 플랫폼은 인공지능을 활용해 AI 관련 기술을 보유한 구직자와 채용 기업을 연결할 예정입니다. OpenAI 애플리케이션 부문 CEO인 피지 시모(Fidji Simo)는 이 플랫폼이 "기업이 원하는 것과 구직자가 제공할 수 있는 것 사이에서 완벽한 매치를 AI로 찾아낸다"고 밝혔습니다.이 플랫폼은 Reid Hoffman이 공동 창업한 링크드인(LinkedIn)에 대한 두드러진 도전장을 내밀고 있습니다. Reid Hoffman은 OpenAI의 초기 투자자이자 2023년 3월까지 이사회 멤버로 활동했습니다. Hoffman은 그의 AI 투자 활동(Greylock Partners와 Inflection AI 설립)을 통한 이해충돌을 피하기 위해 이사회에서 물러났습니다.이 채용 플랫폼은 AI 인재를 찾는 소규모 기업과 지방 정부를 위한 전용 트랙도 포함할 예정입니다. 텍사스 비즈니스 협회는 이 플랫폼을 활용해 수천 명의 텍사스 고용주들이 운영을 현대화할 수 있도록 도울 구직자를 연결할 계획입니다.인증 프로그램이 주요 파트너들과 함께 시작됩니다OpenAI는 기존에 200만 명 이상의 학습자를 지원한 OpenAI Academy를 넘어, 2025년 말 인증 프로그램을 시범 도입할 계획입니다. 해당 인증은 기업 내 기본적인 AI 활용부터 고급 프롬프트 엔지니어링까지 다양한 수준의 AI 이해도를 다룰 예정입니다.세계 최대의 민간 고용주인 월마트는 이번 인증 프로그램의 주요 출시 파트너입니다. 월마트 미국 CEO인 John Furner는 “월마트에서는 소매의 미래가 기술만으로 정의되지 않을 것임을, 기술을 어떻게 활용하는지 아는 사람들이 미래를 정의할 것임을 알고 있습니다.”라고 밝혔습니다.해당 인증 프로그램을 통해 사용자는 ChatGPT의 학습 모드에서 직접 인증을 준비할 수 있으며, 기업은 이를 사내 교육 프로그램에 통합할 수 있습니다. OpenAI는 AI 활용 능력 확대를 위한 백악관 이니셔티브에 부응해, 2030년까지 1천만 명의 미국인에게 인증을 제공하겠다고 약속했습니다.AI로 인한 혼란 우려 대응이 발표는 AI가 고용에 미치는 영향에 대한 우려가 커지는 가운데 나왔다. 앤트로픽의 CEO 다리오 아모데이는 AI가 2030년까지 초급 사무직의 최대 50%를 없앨 수 있다고 언급했다. 시모는 자신의 블로그 포스트에서 이러한 혼란을 인정하며, 오픈AI가 "그 혼란을 완전히 없앨 수는 없지만," 사람들이 AI에 능통해지고 고용주와 연결될 수 있도록 도울 수 있다고 밝혔다.이러한 이니셔티브는 인스타카트에서 합류한 시모의 지휘 아래 오픈AI의 전반적인 확장과도 맞물려 있다. CEO 샘 알트만은 시모가 ChatGPT를 넘어 브라우저나 소셜 미디어 앱을 포함한 다양한 애플리케이션을 감독할 것이라고 말했다. 최근 이 회사는 애플리케이션 팀을 지원하기 위해 제품 분석 회사 Statsig를 11억 달러에 인수했다.이 프로그램들은 오픈AI가 AI 인재 확보를 위한 치열한 경쟁에 직면한 가운데 시작된다. CEO 샘 알트만은 이전에 메타가 연구원들을 유인하기 위해 막대한 서명 보너스를 제공했다고 비판한 바 있다. 오픈AI는 2024년 약 37억 달러의 수익에도 불구하고 50억 달러의 상당한 손실을 낼 것으로 추산되는 등, 큰 적자를 내며 운영을 이어가고 있다.
9
0
09.05
회원가입
아이디/비밀번호 찾기