문영란

AI의 뛰어난 잠재력은 AI 안전 문제를 풀어야만 실현 - 엔디비아 오픈 에이전트 세이프티 플랫폼 공개!

2026-09-30T00:39:01Z

엔비디아, AI 에이전트 통제용 '오픈 에이전트 세이프티 플랫폼' 공개 AI의 뛰어난 잠재력은 AI 안전 문제를 풀어야만 실현된다. 이를 위해 엔비디아가 AI 에이전트의 시험부터 배포까지 전 과정에 걸쳐 돌발 행동을 통제하는 플랫폼 출시하였고 주된 핵심은 소프트웨어와 하드웨어 이중 감시 구조이다. 기술적 요소 오픈셸(오픈소스 SW): CPU에서 에이전트

강력한AI에 대응하지 못하는 안전방안_ - ‘얼마나 안전하게 능력을 높일 것인가’

2026-09-15T01:02:59Z

‘얼마나 안전하게 능력을 높일 것인가’ 더 강력한 AI를 안전하게 개발하는 것을 증명하는 경쟁이 도래한 것인가? 현재 글로벌 AI 업계는 정부 규제를 기다리는 것이 아니라 프런티어 AI 기업들이 개발 과정부터 안전 기준을 만들고, 독립적인 검증 체계를 도입하며, 정부와 국제사회 차원의 공통 기준으로 확대하는 움직임이다. 샘 올트먼(Sam Altman)

피지컬 AI 기술_ AI-RAN 상용화 시대로 - AI-RAN(AI Radio Access Network)

2026-09-08T09:33:30Z

6G 이동통신은 AI를 기반으로 설계되고 AI 응용 서비스를 지원하는 방향으로 발전해야 한다. 피지컬 AI 기술이 발전할수록 네트워크도 스스로 환경을 분석하고 최적의 품질을 제공하는 방식이 필요하다. LG유플러스가 연세대학교에서 자체 개발한 AI-RAN(AI Radio Access Network)을 통해 네트워크가 전환되는 상황에서도 연결을 유지할

AI시대의 개인정보 보호의 패러다임 - 가트너_ 인사이트 유출 주된 침해 원인

2026-08-03T09:18:37Z

가트너(Gartner)_ 인공지능(AI) 시대 개인정보 보호의 패러다임이 근본적으로 바뀔 것! 개인정보가 직접 유출되는 사고보다, AI가 데이터를 분석해 개인의 건강 상태나 행동 패턴 등을 추론하면서 발생하는 '인사이트 유출'이 개인정보 침해의 주된 원인이 될 것! 가트너는 3일 발표한 보고서를 통해 2029년까지 대부분의 개인정보 침해 사고가 개인식별

"AI산업 구조의 변화" - "WAIC 2026 딥시크가 연 문, 키미 K3가 이어간다!

2026-07-24T06:19:24Z

WAIC 2026 딥시크가 연 문, 키미 K3가 넓혔다 "AI 산업의 수익 구조가 API 판매 중심에서 생태계 중심으로 이동" 키미 K3는 단순히 성능 경쟁을 넘어 개방형 생태계를 무기로 내세운다. 이는 AI 산업이 모델 성능 중심 경쟁에서 개발자 생태계와 산업 표준, 데이터센터 인프라, 반도체 공급망, 국제 거버넌스까지 포함하는 새로운 경쟁 국면에 진

서울친구와 함께하는 춘천 나들이 - 사투리 쓰는 두 친구

2026-07-01T00:28:23Z

춘천.. 호수 앞 카페에 나란히 앉았다. 벽에 기대어 졸고 있는 친구는 3시간가량 운전을 하느라 많이 지친 모양이다 가만히 앉아 자는 친구 옆에서 폰을 꺼내 글을 쓰기 시작했다. 오기 전에 배가 고파 가평휴게소에 들러 컵아이스크림에 꽂힌 츄러스를 먹고 음료수를 하나 사서 차에 올라탔다. 오늘따라 기온이 30도에 가깝게 올라가는 데 차에서 나오는 에

구글 실험적 오픈소스 모델 대퓨전젬마 공개 ! - 자기회귀방식에서 하드웨어 활용도 극대화하는 방식으로 !

2026-06-22T08:34:52Z

구글이 텍스트 생성 방식 자체를 바꾸는 새로운 실험적 오픈소스 모델 '디퓨전젬마(DiffusionGemma)' 공개 기존 대형언어모델(LLM)이 단어와 토큰을 순차적으로 생성하는 자기회귀(Autoregressive) 방식을 사용하는 것과 달리, 디퓨전젬마는 문단 단위의 텍스트를 동시에 생성하는 확산(Diffusion) 방식을 적용해 최대 4배 빠른 생성

인공지능(AI) 시대 사이버 보안 축 - '탐지'에서 '대응 속도'로 옮겨가고 있다.

2026-06-16T07:45:48Z

인공지능(AI) 시대 사이버 보안 축 '탐지'에서 '대응 속도'로 옮겨가고 있다. AI 시대에는 취약점을 얼마나 빨리, 많이 찾느냐가 아니라 빠르게 패치하고, 복원하느냐가 핵심이 되었다. 공격자가 AI로 취약점을 찾고 공격 코드를 만드는 시간이 짧아지면서, 기업은 취약점을 패치하고 피해를 복구하는 자동화 역량 내재화를 갖추어야 한다. 한창규 안랩 연구소장

개발 패러다임의 급격한 변화 - 개발 현장에서 일어나는 엔지니어의 역할 변화

2026-06-09T06:52:32Z

'클로드 코드'의 개발자인 보리스 체르니 앤트로픽 총괄이 개발 패러다임이 급격하게 전환 중이며 자신이 직접 코드를 한 줄도 작성하지 않는 단계를 넘어, 이제는 AI에게 직접 프롬프트를 입력하는 행위마저 끝났다고 선언했다. 현재 개발 현장에서 일어나는 엔지니어의 역할 변화 첫 번째 전환은 기존의 통합개발환경(IDE)을 완전히 삭제! 5~10개의 클로드 창을

AI가 버그를 너무 많이 찾는다”...오픈소스 생태계 - 앤트로픽(Anthropic)이 차세대 AI 기반 사이버보안 프로젝트

2026-06-01T07:01:16Z

AI가 버그를 너무 많이 찾는다”...오픈소스 생태계 과부하!! 자사의 고성능 AI 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’ AI가 단순히 코딩 보조를 넘어, 인간 해커 수준 이상의 취약점 탐지와 공격 시뮬레이션 능력을 확보하고 있다. “취약점을 발견하는 속도보다 이를 수정하고 배포하는 속도가 더 느려졌다”는 점에서 새

소버린 AI 보안 - 소버린 AI 보안을 확보하기 위한 구체적 기술

2026-05-27T05:14:58Z

소버린 AI 보안을 확보하기 위한 구체적 기술 5 가지 1. 인프라 주권 기술 (Physical & Cloud Infrastructure) 온프레미스·프라이빗 클라우드·소버린 클라우드 기반 AI 인프라 구축 기술: 프라이빗 클라우드 / 소버린 클라우드 프라이빗 클라우드 / 소버린 클라우드 해외 대형 클라우드 회사 외부 호스팅 의존을 줄이고

AI 코딩 에이전트의 설정 파일 변조감염 - 비인간 신원(NHI)의 구조적 취약점

2026-05-20T05:36:44Z

국내 프론트엔드 개발 환경, 시각화 오픈소스 패키지 300여 개가 동시에 악성코드 오염 323개 패키지에 걸쳐 총 639개의 악성 버전이 글로벌 npm 레지스트리에 무차별 유포 5월 둘째 주 ‘미니 샤이-훌루드’ 툴킷을 기반으로 한 이번 공격은 개발자들이 사용하는 AI 코딩 에이전트의 설정 파일을 변조해 감염하는 방식이다. 임포스터 커밋(위장 등록)과

마이크로소프트 '멀티 모델 에이전틱 스캐닝 하네스' - AI보안이슈

2026-05-18T08:03:11Z

마이크로소프트는 취약점 발굴부터 검증·증명 및 대응까지 단계형 파이프라인을 갖춘 에이전틱 보안 분석 시스템 ‘멀티 모델 에이전틱 스캐닝 하네스(Microsoft Security multi-model agentic scanning harness. 코드명: MDASH)’를 공개하였다. MDASH는 자율 코드 보안(ACS) 팀이 구축한 멀티 모델 에이전틱 스캐

2026년 국제인공지능대전 - 피지컬AI부터 엣지 인프라까지

2026-05-13T04:32:47Z

2026년 국제인공지능대전(AI EXPO KOREA 2026) 생성형 AI와 LLM만 보는 행사가 아니라, 이를 실제로 돌리는 AI 칩, 가속기, 클라우드, 데이터센터, 온디바이스 AI, 엣지 인프라까지 함께 보여준 점이 가장 특징이다. 눈에 띈 전시 테마 AI 인프라 존: GPU, 서버, 스토리지, 냉각, 전력, 클라우드 같은 기반 기술이 핵심 AI 에

AI보안트렌드_데이터포이즈닝 - 오늘의 AI보안 용어 알아보기

2026-05-11T03:49:47Z

2026년 5월 기준으로 ‘데이터 포이즈닝’은 생성형 AI(LLM) 학습·운영에서 악의 데이터가 모델 품질을 저하시키거나 의사결정을 왜곡시키는 공격이다. 대응은 입력 검증(프롬프트 인젝션·탈옥 방지)과 함께, 학습/운영 데이터의 무결성 확보, 민감정보 마스킹, 제로-트러스트 기반 접근 제어 등 다층 방어가 핵심으로 ~ 1. 데이터 포이즈닝 대응 핵심

AI보안 트렌드 _클로드 모드 시큐리티

2026-05-06T01:56:47Z

앤트로픽(Anthropic) 자사 인공지능(AI) 모델을 활용한 코드 보안 분석 기능 ‘클로드 코드 시큐리티(Claude Code Security)’를 공개 웹 기반 개발 환경인 ‘클로드 코드(Claude Code)’에 통합돼, 코드베이스 전반의 보안 취약점을 탐지하고 수정 패치를 제안하는 것이 핵심! “기존 정적 분석 도구(static analysis

FC서울 축구 팬이 된 날! - 작고 작은 마음들이 열리는 날!

2026-05-04T00:08:11Z

야구장에 가는 걸 훨씬 좋아하는 데, 요즘은 정기 시즌권을 사지 않으면 야구 구경조차 하기가 힘들어졌다. 지인을 꼬셔서 야구장에 한번 가지고 떼를 쓰다가 아…. 이건 되는 게 아니구나를 실감하고 운동경기 보는 걸 좋아해 그래도 서울에서 한 번은 가 보고 싶은 마음에 차선책으로 축구장을 선택했다. 부산에 살 때에는 사직 야구장에 자주 갔었는데 축구장은

구글 클라우드, Next ’26 개최… - ‘제미나이 엔터프라이즈 에이전트 플랫폼(Gemini Enterprise)

2026-04-28T02:29:31Z

“구글 클라우드의 AI 하이퍼컴퓨터는 확장 가능한 기반을, 데이터 클라우드는 맥락을, 에이전틱 디펜스(Agentic Defense)는 보안을, 에이전트 플랫폼은 오케스트레이션을 책임진다 넥스트 2026(Google Cloud Next ’26)’을 개최, 모든 기업이 에이전틱 엔터프라이즈(Agentic Enterprise)로 도약 기업이 단순한 챗봇 수준

AI기술확산으로 바뀐 보안 패러다임 - 제로트러스트

2026-04-27T03:59:26Z

AI 기술 확산으로 보안 패러다임이 바뀌고 있다. 앤트로픽이 공개한 ‘미토스’(Mythos) : 단순한 코드 분석을 넘어 시스템 전반을 이해하고 취약점을 찾아 실제 공격 경로까지 설계하는 수준의 AI가 나오면서 침투 이후 피해를 어떻게 통제할 것인가와 내부 시스템에 접근하더라도 핵심 데이터까지는 쉽게 도달하지 못하도록 하는 구조로 방향이 바뀌고 있다.

26년 AI보안 트렌드

2026-04-17T01:06:18Z

1. 2026년 주목 기술 키워드 한국정보공학기술사회(KAPIE) 2026년 10대 전략 기술 중 보안 관련 키워드는 기밀 컴퓨팅(Confidential Computing), 선제적 사이버 보안(예측·시뮬레이션 기반), 소버린 AI 클라우드(국가·데이터 호버넌스 중심 클라우드), MXDR 등입니다. 또, 5G·엣지·IoT 확산으로 엣지 디바이스·ICS·OT

문영란