Itinatag ni Liang Wenfeng

Type Laboratoryo ng pananaliksik

CN China 2023 11-50 tao
DeepSeek

Themes

generative ainlpcoding

Ang DeepSeek (深度求索) ay isang Chinese na AI research laboratory na itinatag noong 2023 at nakabase sa Hangzhou, na nagpapatakbo sa ilalim ng legal na entidad na 杭州深度求索人工智能基础技术研究有限公司. Nakatuon ang organisasyon sa pagbuo ng pundasyong teknolohiya para sa malalaking language model, at ang pananaliksik nito ay sumasaklaw sa pangkalahatang pag-unawa sa wika, pagbuo ng code, matematika, at mga kakayahang multimodal.

Kapansin-pansin ang DeepSeek dahil sa open-source nitong pamamaraan, kung saan inilalabas nito nang hayagan ang mga model weights kasama ang isang commercial API platform, kaya nagiging naa-access ang mga sistema nito para sa parehong mga mananaliksik at mga developer. Kabilang sa mga pangunahing modelo nito ang DeepSeek-R1 reasoning model at ang seryeng DeepSeek-V3, pati na rin ang mga espesyalisadong modelo tulad ng DeepSeek-Coder, DeepSeek-Math, at DeepSeek-VL, na nakatuon sa mga partikular na teknikal na larangan.

Kasama sa mga produktong para sa mga consumer ang isang web interface at mobile application na binuo batay sa mga pinagbabatayang model nito.

Pinagmulan at Pamumuno

Ang DeepSeek ay itinatag noong Hulyo 2023 ni Liang Wenfeng, isang co-founder ng Chinese hedge fund High-Flyer. Ang kumpanya ay nakabase sa Hangzhou, na may karagdagang presensya sa Beijing, at nananatili itong pag-aari ng High-Flyer.

Ang background ni Liang sa quantitative finance ang humubog sa paraan ng DeepSeek sa pagbuo ng AI. Inuuna ng organisasyon ang pangmatagalang pananaliksik kaysa sa agarang komersyalisasyon, at inilalarawan ang gawain nito bilang isang paggalugad ng artificial general intelligence.

Ang unang pagpopondo ay nagmula sa dati nang naipong stockpile ng Nvidia A100 at H800 GPUs, na nakuha bago higpitan ang mga paghihigpit sa export. Nagbigay ito sa kumpanya ng kakayahang sanayin ang mga modelo nito sa maliit na bahagi ng karaniwang gastos na kaugnay ng malalaking proyektong AI.

Pilosopiya sa Open-Source

Naiiba ang DeepSeek sa pamamagitan ng pangakong maglabas ng open-source. Lahat ng modelo ay inilalathala sa ilalim ng lisensyang MIT, kaya ang mga weights at code ay pampublikong naa-access.

Ang pamamaraang ito ay kaiba sa maraming kakumpitensya na naghihigpit sa pag-access sa mga proprietary system. Kasama sa mga inilalabas ng kumpanya ang mga general-purpose na modelo pati na rin ang mga espesyalisadong bersyon para sa coding, matematika, at multimodal na mga gawain.

  • DeepSeek-LLM: Sumusuporta sa mga chatbot at mga application para sa customer service.
  • DeepSeek-Coder: Nagbibigay ng autocomplete sa mga development environment.
  • DeepSeek-Math: Na-optimize para sa pangangatwirang matematikal at paglutas ng problema.
  • DeepSeek-VL: Gumaganap sa mga gawaing nangangailangan ng parehong pag-unawa sa teksto at biswal.

Ang DeepSeek-R1 reasoning model, na inilabas noong 2024, ay nagpakita ng pagganap na maihahambing sa OpenAI’s o1-preview sa mga benchmark gaya ng AIME at MATH. Ang pagiging bukas nito ay nakakuha ng pansin mula sa mga technologist, kabilang si venture capitalist Marc Andreessen, na inilarawan ito bilang isang “profound gift to the world.”

Teknikal na Kahusayan

Ang mga modelo ng DeepSeek ay nakakamit ng mapagkumpitensyang pagganap sa mas mababang gastos sa kompyutasyon. Halimbawa, ang DeepSeek-V3 model ay sinanay gamit ang mas mababa sa $6 milyon na halaga ng Nvidia H800 chips.

Ang kahusayan na ito ay nagmumula sa mga inobasyong arkitektural at mga optimisasyon sa pagsasanay. Gumagamit ang kumpanya ng mixture-of-experts (MoE) layers at multi-head latent attention (MLA) upang mabawasan ang mga paulit-ulit na kalkulasyon.

  • Ang dynamic weight activation ay nagpapababa ng inference cost sa ilalim ng $0.001 kada request.
  • Ang domain-specific fine-tuning ay nagpapaliit ng over-parameterization para sa mga espesyalisadong gawain.
  • Ang reinforcement learning at reward engineering ay nagpapahusay sa mga kakayahan sa lohikal na pangangatwiran.

Ang mga diskarteng ito ay nagbibigay-daan sa DeepSeek na i-compress ang mga modelong may 671 bilyong parameter sa mas maliliit na bersyon para sa edge deployment. Ginagamit din ng kumpanya ang synthetic data generation upang hikayatin ang mga umuusbong na gawi sa pangangatwiran nang hindi kailangan ng manual prompt engineering.

Epekto sa Merkado at Tumatanggap

Ang mga modelo ng DeepSeek ay nakakuha ng momentum sa parehong pananaliksik at mga komersyal na aplikasyon. Noong 2024, ang AI assistant nito ay naging nangungunang-rate na libreng app sa Apple’s U.S. App Store, na nalampasan ang ChatGPT ng OpenAI.

Ang cost-effective na paglapit ng kumpanya ay nakaimpluwensya sa mga inaasahan sa industriya. May mga ulat na ang R1 model ng DeepSeek ay tumugma sa pagganap ng GPT-4 sa 20 beses na mas mababang gastos, na nagbunsod ng mga talakayan tungkol sa ekonomiya ng AI.

Mga politikal na lider, kabilang ang dating U.S. President Donald Trump, ang nagbanggit sa pag-usbong ng DeepSeek bilang katalista para sa mas mataas na pagtuon sa kompetisyon ng domestic AI. Ang open-source na estratehiya ng kumpanya ay nagpasigla rin ng mga derivative na proyekto, tulad ng SeekDeep, isang Web3 token na binuo sa platform ng DeepSeek.

Sa kabila ng mabilis nitong paglago, pinananatili ng DeepSeek ang oryentasyong pang-pananaliksik muna. Ang pag-aampon nito sa enterprise ay nananatiling limitado kumpara sa mga itinatag na manlalaro, bagaman ang mga modelo nito ay lalong isinasama sa mga third-party na application at development tools.

Ulat

Mga Koneksyon