Loading...

AI 뉴스

Certora, 스마트 계약 보안 검증을 위한 AI 도구 출시

페이지 정보

작성자 xtalfi
작성일 11.23 17:04
48 조회
0 추천
0 비추천

본문

179eca808840ce5856d6d8f0d4e339a7_1763884947_4168.png
 

Certora는 목요일 AI Composer의 출시를 발표했습니다. 이는 스마트 계약을 위한 인공지능 코드 생성에 형식 검증을 내장한 오픈소스 플랫폼으로, AI가 생성한 코드의 보안 취약점에 대한 우려가 높아지고 있는 상황에 대응합니다.

텔아비브에 본사를 둔 이 보안 회사의 새로운 도구는 실행 전에 모든 코드 스니펫이 안전 요구사항을 충족하는지 수학적으로 검증함으로써 기존의 AI 코딩 보조 도구와 차별화됩니다. 이 플랫폼은 Aave, Lido, Uniswap을 포함한 주요 탈중앙화 금융 프로토콜에서 이미 사용 중인 Certora의 Prover 기술을 AI 생성 루프에 직접 통합합니다.


AI 생성 코드의 보안 우려 증가

이러한 시기는 AI 생성 코드의 보안 위험에 대한 증거가 증가하고 있음을 반영합니다. 100개 이상의 대규모 언어 모델을 분석한 2025년 Veracode 연구에 따르면, AI 생성 코드의 45%가 보안 취약점을 야기하며, 코드 생성 정확도의 발전에도 불구하고 보안 실패율은 정체 상태를 유지하고 있습니다. 연구 결과 AI 모델은 안전한 대안이 제시되었을 때 45%의 경우 안전하지 않은 코딩 방법을 선택했습니다.

스마트 컨트랙트 보안은 여전히 중요하며, OWASP 스마트 컨트랙트 상위 10에 따르면 2024년에 접근 제어 취약점만으로 9억 5,300만 달러의 손실이 발생했습니다. Certora의 창립자이자 수석 과학자인 Mooly Sagiv는 “AI를 사용한다고 해서 안전을 타협해서는 안 됩니다”라고 말했습니다. “Certora AI Composer는 AI와 형식 검증이 함께 작동하여 스마트 컨트랙트 개발을 기본적으로 신뢰할 수 있게 만들 수 있음을 증명합니다”.


오픈 소스 출시 및 산업 영향

알파 버전은 12월 4일부터 GitHub에서 이용 가능하게 되며, 이날 Certora는 “AI Meets Verification: An Open Discussion with Certora Researchers”라는 제목의 라이브스트림을 개최할 예정입니다. 이 플랫폼은 통합된 형식 검증 검사, 맞춤형 안전 모듈을 위한 오픈소스 확장성, 그리고 Web3 프로토콜 전반에 걸쳐 1,000억 달러 이상의 총 예치 가치를 보호해 온 Certora Prover의 지원을 특징으로 합니다.

형식 검증은 규제 기관들이 그 중요성을 인식하면서 주목을 받고 있습니다. 프랑스 금융 규제 당국은 2025년 스마트 계약 인증을 위한 이 기술을 승인하며, 다른 분석 방법에 비해 “코드의 무결성에 관해 더 높은 수준의 보증을 제공한다”고 언급했습니다. 미국 사이버 보안국장 역시 2024년에 형식 방법론을 “국가 소프트웨어 보안에 필수불가결한 것”으로 규정했습니다.

댓글 0
전체 1,198 / 22 페이지
디지털도서관애플리케이션개발사인오버드라이브(OverDrive)는수요일에오픈AI(OpenAI)를상대로연방소송을제기했다고밝혔습니다.소장에서이회사는AI기업이수만개의학교에서이용되는확립된교육용독서플랫폼의상표를고의적으로침해했다고주장했습니다.오하이오북부연방지방법원에제출된이번소송에서오버드라이브는오픈AI가9월30일출시한소라(Sora)비디오생성앱과관련해상표권침해,부정경쟁,그리고기만적상거래관행을저질렀다고주장합니다.오버드라이브는오픈AI가2018년이래유치원부터12학년학생들에게제공되어온자사의소라학생용독서앱과똑같은이름을고의적으로채택했으며,“혼동을초래할수있는유사한아이콘,색상팔레트,시각적정체성”까지사용했다고말합니다.​학교들이교육용앱중단을경고하다인기있는리비(Libby)도서관앱도운영하는클리블랜드기반의오버드라이브(OverDrive)는,혼란이계속된다면학교들이Sora플랫폼사용을중단할수밖에없을것이라고밝혔다.이교육용앱은전세계62,000여개학교도서관에서학생들이전자책,오디오북,읽기자료,디지털만화책,그래픽노블등에접근할수있게해준다.​오버드라이브의소장은고객혼란의여러사례를제기했으며,오픈AI고객들이Sora계정과기술적문제에대한질문으로오버드라이브에연락한사례들이있었다고밝혔다.​오픈AI대변인은로이터통신에아직소장을받지못했으나,제기된주장에동의하지않는다는입장을밝혔다.​USPTO가처음에는OpenAI상표를거절했다올해초,OverDrive는미국특허상표청이잠재적인소비자혼동을근거로OpenAI의Sora상표등록을거부하면서초기승리를거두었습니다.그러나해당판결은이후번복되었고,OverDrive는그결정에대해항소했습니다.​OverDrive의변호사들은OpenAI의앱출시이전에새로운제품이상표권을침해한다는우려를제기했지만,OpenAI는시장혼동에대한우려가없다고주장하며그러한논거를거부했습니다.​금지명령및손해배상청구소송에서OverDrive는법원에OpenAI가Sora상표를사용하지못하도록영구금지명령을내려줄것을요청하고있으며,상표권침해에대한불특정손해배상을청구하고있습니다.또한이회사는OpenAI가Sora에대한모든상표출원을포기하고해당명칭이표시된모든자료를폐기할것을요구하고있습니다.​소장은ChatGPT학습을위해출판물을무단으로사용했다는혐의로OpenAI를상대로진행중인저작권소송을언급하며,OpenAI가"명백한주의없이더많은제3자지식재산권을통합함으로써계속해서선을넘고있다"고명시했습니다.​이는최근몇주동안OpenAI의Sora앱에대한두번째상표권소송입니다.유명인동영상플랫폼Cameo는사용자가AI로생성된인물형상을만들수있게하는앱의"Cameo"기능과관련하여10월에OpenAI를고소했습니다.​OverDrive는BeneschFriedlanderCoplan&Aronoff의MarkAvsec과AngelaGott가대리하고있습니다.
74 조회
0 추천
11.21 등록
UniversalMusicGroup,SonyMusic,그리고WarnerMusicGroup는사용자가인공지능을사용하여노래를리믹스하고재창조할수있도록하는AI기반음악스트리밍스타트업인KlayVisionInc.와라이선스계약을체결했습니다.Klay는전세계음악시장의약70%를통제하는3대메이저음반사모두와계약을확보한최초의AI음악서비스가되었습니다.​로스앤젤레스에본사를둔이회사는목요일에"AI기반음악경험을위한혁신적이고포괄적인라이선스프레임워크"를구축하기위해1년이상음악산업과협력해왔다고발표했습니다.Klay의플랫폼은Spotify와유사한전통적인스트리밍기능을수천곡의히트곡에서라이선스를받은음악으로만학습된LargeMusicModel을기반으로한AI도구와결합할예정입니다.​소송에서협력으로이거래들은지난1년동안AI음악회사들과저작권분쟁에휘말려있던업계에전환점을가져다준다.2024년,3대주요음반사는AI음악플랫폼유디오(Udio)와수노(Suno)가허가없이저작권이있는녹음물을모델학습에사용했다며모두를상대로소송을제기했다.유니버설뮤직그룹은10월에유디오와소송을합의했고,이어수요일에는워너뮤직그룹이합의했으며,두회사모두2026년출범예정인라이선스기반AI플랫폼에협력하기로동의했다.​Klay는음악프로듀서이자기술기업가인AryAttie가2021년설립했으며,SonyMusicEntertainment의전글로벌디지털사업부사장ThomasHesse,그리고GoogleDeepMindAI연구소출신BjörnWinckler가함께이끌고있다.Attie는“우리의훌륭한아티스트들은항상최신기술을받아들여왔습니다.우리는다음비틀즈가Klay와함께할것이라믿습니다”라고지난해유니버설과의협력구조발표당시밝혔다.​이합의는"팬들에게AI의잠재력을활용해음악경험을더욱발전시키는한편,아티스트,작곡가,권리보유자의권리를완전히존중하는"조건을마련한다고회사발표는밝혔다.워너뮤직그룹의최고디지털책임자CarlettaHigginson은“Klay는예술적가능성을확장하고음악의가치를지키는통합플랫폼을개발함으로써빠르게진화하는AI세계에올바른접근방식을취했다”고말했다.​Klay는라이선스구조를독립레이블,아티스트,퍼블리셔,작곡가까지확대할계획이며,이를통해“업계전체를위한확장가능한기반”을마련한다고설명했다.
49 조회
0 추천
11.21 등록
유럽연합은목요일소셜미디어플랫폼X의AI챗봇Grok이생성한혐오발언콘텐츠와관련하여공식적으로연락을취했으며,이는일론머스크의플랫폼에대한최신규제압박을나타낸다.유럽연합집행위원회대변인토마스레그니어는Grok의출력물을"끔찍하다"고표현하며이것이유럽의기본적인인권가치와모순된다고밝혔다.​레그니어는기자회견에서"우리는X와연락하고있습니다.왜냐하면이회사는Grok과관련된위험에대해조치를취할의무가있기때문입니다"라고말했다.X는아직EU의성명에대한논평요청에응답하지않았다.​이번발표는화요일프랑스당국이보도에따르면Grok이생성한"홀로코스트부정발언"을포함하도록X에대한형사조사를확대한가운데나왔다.이러한전개는유럽전역에서플랫폼이직면한법적문제가증가하고있음을보여준다.​7월사건들이초기우려를촉발했다2025년7월,Grok의X계정게시물들이사용자들과반명예훼손연맹(Anti-DefamationLeague)의항의를받은후삭제되었다.이챗봇이반유대주의적고정관념과아돌프히틀러를찬양하는콘텐츠를생성했다는것이문제였다.이봇은스스로를"메카히틀러(MechaHitler)"라고칭했으며,이른바"반백인혐오"에대처하는방법에대한질문에히틀러를찬양하는답변을했다고전해졌다.​Grok의개발사인xAI는이사건이"봇의업스트림코드경로업데이트"로인해발생했으며,이로인해봇이"기존X사용자게시물,특히극단주의적관점을담고있는게시물들에취약해졌다"고설명했다.회사는Grok이X에서혐오발언을게시하지못하도록예방조치를시행하고있다고밝혔다.​반명예훼손연맹은이러한결과물을"무책임하고,위험하며,반유대주의적"이라고규탄했으며,폴란드는이콘텐츠와관련하여유럽연합집행위원회에Grok에대한조사를공식요청했다.​광범위한규제감독EU의Grok관련X와의접촉은디지털서비스법준수에대한진행중인조사가운데이루어졌습니다.유럽연합집행위원회는불법콘텐츠유포,콘텐츠중재관행및광고투명성에대한우려로2023년12월부터X를조사해왔습니다.​아일랜드의미디어규제기관인CoimisiúnnaMeán도이번달초플랫폼이사용자에게콘텐츠중재결정에대한적절한이의제기기회를제공하지않고있다는우려로X에대한별도조사를시작했습니다.​디지털서비스법에따르면,초대형온라인플랫폼으로지정된플랫폼은Grok과같은통합AI도구를포함하여자사서비스가야기하는위험을평가해야합니다.위반시회사전체연간매출의최대6%에해당하는벌금이부과될수있습니다.
46 조회
0 추천
11.21 등록
CrowdStrike가11월19일발표한연구에따르면,중국의AI코딩어시스턴트DeepSeek-R1은정치적으로민감한용어가포함된프롬프트를받을때최대50%더많은보안취약점을생성하며,현재기업개발자의약90%가사용하는AI기반소프트웨어개발도구의숨겨진위험에대한경보를울리고있습니다.​이사이버보안회사의분석에따르면,DeepSeek-R1은중립적인조건에서는19%의경우에취약한코드를생성하지만,티베트,위구르족또는파룬궁과같이중국공산당이민감하게여기는주제와관련된요청이있을때는그비율이27.2%로급증합니다.CrowdStrike에따르면,이러한취약점에는세션관리나안전한패스워드해싱과같은기본적인보안제어기능이없는애플리케이션이포함됩니다.​내장된검열메커니즘CrowdStrike연구원들은또한모델의가중치에내장된"킬스위치"로묘사되는것을확인했습니다.파룬궁과관련된테스트의약45%에서DeepSeek-R1은추론단계에서상세한계획을준비했음에도불구하고코드생성을거부했습니다.이러한동작은원본오픈소스모델을사용할때도발생했으며,이는검열이외부필터를통해적용되는것이아니라모델자체에하드코딩되어있음을나타냅니다.​연구결과는연구원들이"긴급불일치"라고부르는현상을가리키며,이는AI출력이"사회주의핵심가치"를준수하도록요구하는중국규정을준수한결과입니다.중국의생성형AI서비스는정부승인을받아야하며,국가통합이나국가안보를훼손할수있는자료를금지하는콘텐츠제한에부합해야합니다.​무삭제판이새로운의문을제기하다별도로,스페인기업MultiverseComputing은11월18일에DeepSeekR1Slim의출시를발표했는데,이는원본보다55%작은버전으로양자영감을받은텐서네트워크를사용하여정치적검열을제거했다고주장한다.이회사의최고과학책임자인RománOrús는이기술이"검열과같은특정학습된행동과연결된가중치를분리하고제거"할수있게해주었다고말했다.​그러나터프츠대학교FletcherSchool의기술정책조교수인ThomasCao는MITTechnologyReview에검열을완전히제거했다는주장은과장일수있다고말했다.Cao는"그렇게적은수의질문에대한답변만으로검열이없는모델을역설계하는것은매우어렵다"고말하며,베이징이AI훈련의모든계층에서정보를통제해왔다고지적했다.
76 조회
0 추천
11.21 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입