새로운 방법은 재학습 없이 몇 초 안에 ChatGPT와 같은 모델에 비밀 워터마크를 남길 수 있으며, 일반 출력에는 아무런 흔적을 남기지 않으며, 모든 가능한 제거 시도를 살아남을...
새로운 연구에 따르면 AI 시스템은 다른 AI가 실제로 받아들이는 가짜 과학 논문을 작성할 수 있으며, 이전에 작동했던 탐지 루틴을 피하고, 연구 세계가 봇이 봇을 속이는 것으로...
ChatGPT を含む生成 AI モデルは、学術出版プラットフォームを AI 生成の調査論文で洪水のように埋め尽くしており、信号対雑音比が臨界点に達している。新しい研究によると、この洪水は研究者を圧倒し、引用を歪め、科学的記録に対する信頼を損なっている。調査論文の増加は、科学そのものに対する「DDoS 攻撃」というように表現できる。 (一部) 意見 先週、AI に関する科学文献のストリームを 7 年間追跡してきた私が、初めて敗北を認め、ピーク時には、新しい出版物を追跡するか、それについて書く時間を持つかを選択しなければならないことを認めた。特定のカテゴリ (コンピュータビジョン、機械学習、言語モデルなど) のエントリの総数は、1 日の提出物だけで 1,000 を大幅に上回っていた。このようなボリュームでは、すべての新しいタイトルをスキミングするだけで、抽象的な要約を時折楽しむだけで、非生産的な日になるだろう。これは 10 月 7 日の火曜日だった。対照的に、10 月 14 日の火曜日 (先週) の機械学習カテゴリでは、前の週の火曜日の...
ChatGPT 스타일의 비전 모델은 이미지 내용을 무시하고 잘못된 응답을 생성하도록 조작할 수 있으며, 이를 위해 이미지에 신중하게 배치된 텍스트를 주입할 수 있습니다. 새로운 연구에서는 다중 영역에...
새로운 연구에 따르면 ChatGPT와 유사한 모델은 이제 인간이 작성한 것으로 믿는 텍스트에 대한 명확한 편향을 나타낸다. 단순히 텍스트를 ‘인간 제작’이라고 표시하면 AI 모델이 그것을 선호하게 된다....
언어 모델에서 검열은 더 넓은 범위에서 진실을 보고하는 능력을 저하할 수 있다. 새로운 연구에 따르면 ‘안전하지 않은’ 응답을 차단하는 데 사용되는 내부 메커니즘은 사실 정보도 억제한다는...
새로운 연구에 따르면 ChatGPT를 포함한 코딩 AI는 던닝-크루거 효과에 시달리는 것으로 나타났으며, 자신이 가장 무능력할 때 가장 자신감이 넘치게 행동한다. 익숙하지 않은 또는 희귀한 프로그래밍 언어를...
새로운 연구에 따르면 AI 모델은 지그소 퍼즐을 해결함으로써 시각적 인지를 향상시킬 수 있다. 이미지, 비디오, 3D 장면의乱された 이미지, 비디오, 3D 장면을 재배열함으로써 시각적 기술을 향상시킬 수...
새로운 연구에 따르면 ChatGPT-5와 Google Gemini는 뉴스룸 스타일의 쿼리에서 40%에서 환각을 일으키며, 검증 가능한 사실로 뒷받침되지 않는 자신감 있는 声明을 자주 발명합니다. Google의 NotebookLM은 13%로 훨씬...
ChatGPT 스타일의 비전 모델은 종종 이미지에 속하지 않는 요소를 ‘환각’시킵니다. 새로운 방법은 모델이 자체 환각의 과장된 버전을 캡션을 기반으로 보여주고 다시 시도하도록 요청함으로써 이러한 오류를 줄입니다....
새로운 연구에 따르면 ChatGPT를 아주少量의 나쁜 데이터로 정교화하면 안전하지 않게 되고, 신뢰할 수 없게 되며, 완전히 다른 주제로 벗어날 수 있다. 훈련 데이터에서 10%의 잘못된 답변은...
美容 필터는 결점을 숨기는 것뿐만 아니라 Deepfake과 얼굴 변형을 감지 시스템을 통과하게 할 수 있습니다. 새로운 연구에 따르면 심지어 미묘한 매끄러운 효과도 AI 감지기를 혼란하게 만들어...
새로운 연구에 따르면 광고가 곧 ChatGPT 스타일의 답변 내에 직접 삽입될 수 있을 것으로 나타났습니다. 배너나 팝업으로 표시되지 않고 답변 자체에 직간접적으로 삽입될 것입니다. 새로운 벤치마크는...
이모티콘을 사용하여 대형 언어 모델의 안전 메커니즘을 우회하고, 필터링되는 유독한 출력을 트리거할 수 있다. 이러한 방법으로, LLM은 폭탄 제조 및 살인과 같은 금지된 주제에 대해 토론하고...
대규모 언어 모델은 질문에 답을 할 수 없는 경우에도 자신감 있는 답을 제공하는 경우가 많습니다. 새로운 연구에 따르면 이러한 모델은 내부적으로 문제를 인식하지만 여전히 무언가를 만들어내거나...