摘要: 一、基本介紹MobileIMSDK是一套全平臺原創(chuàng)開源IM通信層框架：超輕量級、高度提煉，lib包50KB以內(nèi)；精心封裝，一套API同時支持UDP、TCP、WebSocket三種協(xié)議（可能是全網(wǎng)唯一開源的）；客戶端支持iOS、Android、標(biāo)準(zhǔn)Java、H5、微信小程序、Uniap、鴻蒙Next(Demo完整源碼)；服務(wù)端基于Netty，性能卓越、易于擴(kuò)展 new；可與姊妹工程&nbs... 閱讀全文
摘要: 足球基礎(chǔ)數(shù)據(jù)
https://www.nami.com/details/4nw10i0tela68lq#interface
足球統(tǒng)計(jì)數(shù)據(jù)
https://www.nami.com/details/7xwk3iqtv3s9rk6#interface
足球統(tǒng)計(jì)數(shù)據(jù)
https://www.nami.com/details/7xwk3iqtv3s9rk6#interfa... 閱讀全文
摘要: 本文由轉(zhuǎn)轉(zhuǎn)技術(shù)團(tuán)隊(duì)趙衛(wèi)兵分享，原題“鴻蒙新篇章：轉(zhuǎn)轉(zhuǎn) APP 的 HarmonyOS Next 開發(fā)之旅”，下文進(jìn)行了排版優(yōu)化和內(nèi)容修訂。1、引言2023 年在華為開發(fā)者大會（HDC.Together）上，除了面向消費(fèi)者的 HarmonyOS 4 之外，華為還推出了面向開發(fā)者的 HarmonyOS Next 開發(fā)者預(yù)覽。而在去年的 6 月份華為開發(fā)者大會上，對外開啟了 Ha... 閱讀全文
摘要: 本文由企業(yè)微信客戶端團(tuán)隊(duì)黃瑋分享，原題“在流沙上筑城：企微鴻蒙開發(fā)演進(jìn)”，下文進(jìn)行了排版優(yōu)化和內(nèi)容修訂。1、引言當(dāng)企業(yè)微信團(tuán)隊(duì)在2024年啟動鴻蒙Next版開發(fā)時，我們面對的是雙重難題：1）在WXG小團(tuán)隊(duì)模式下，如何快速將數(shù)百萬行級企業(yè)應(yīng)用移植到全新操作系統(tǒng)？2）在鴻蒙API 還是Preview的初期，如何保持業(yè)務(wù)代碼的穩(wěn)定，在API快速更新的浪潮中巋然不動？DataLis... 閱讀全文
摘要: 本文由美團(tuán)技術(shù)團(tuán)隊(duì)張晨分享，原題“鴻蒙應(yīng)用簽名實(shí)操及機(jī)制探究”，下文進(jìn)行了排版優(yōu)化和內(nèi)容修訂。1、引言華為鴻蒙單框架操作系統(tǒng)HarmonyOS NEXT已于2024年10月23日正式發(fā)布Release版。HarmonyOS NEXT僅支持鴻蒙原生應(yīng)用，不再兼容安卓。本文對鴻蒙NEXT公開資料進(jìn)行了深入分析和解讀，梳理了鴻蒙單框架應(yīng)用的簽名機(jī)制，拆解每一步的實(shí)操過程和背后的實(shí)... 閱讀全文
摘要: 本文由阿里云望宸分享，原題“大模型推理主戰(zhàn)場：什么才是通信協(xié)議標(biāo)配？”，下文進(jìn)行了排版優(yōu)化和內(nèi)容修訂。1、引言DeepSeek 加速了模型平權(quán)，隨之而來的是大模型推理需求的激增，大模型性能提升的主戰(zhàn)場從訓(xùn)練轉(zhuǎn)移到了推理。推理并發(fā)的提升，將催生計(jì)算、存儲、網(wǎng)絡(luò)、中間件、數(shù)據(jù)庫等領(lǐng)域新的工程化需求。本文將分享 SSE 和 WebSocket 這兩個AI大模型應(yīng)用的標(biāo)配網(wǎng)絡(luò)通信協(xié)... 閱讀全文
使用trl庫做微調(diào)時, 對數(shù)據(jù)集的要求是:
如果是多輪對話場景:
jsonl 文件，且需符合以下要求:
1.每行是一個獨(dú)立的 JSON 對象;
2 每個對象須包含一個鍵名為 messages 的數(shù)組，數(shù)組不能為空;
3.messages 中每個元素必須包含 role 和 content 兩個字段:
4.role 只能是 system,user 或 assisiant;
5.如果有 system 角色消息, 需在數(shù)組首位;
6.第一條非 system 消息必須是 user 角色;
7.user 和 assisiant 角色的消息應(yīng)當(dāng)交替、成對出現(xiàn)，不少于1對;
如果是指令微調(diào)場景:
jsonl 文件，且需符合以下要求:
1.每行是一個獨(dú)立的 JSON 對象;
2 每個對象須包含且只能包含一個鍵名為 text 的鍵值對，值不能為空;
摘要: 本文由夏冰軟件cc分享，下文進(jìn)行了排版和內(nèi)容優(yōu)化。1、引言本文接上篇《什么是IM系統(tǒng)的消息時序一致性？》，本篇將通俗易懂地講解IM系統(tǒng)中的端到端加密原理，為了降低閱讀門檻，相關(guān)的技術(shù)概念會提及但不深入展開。IM即時通訊系統(tǒng)的技術(shù)本質(zhì)是“即時消息技術(shù)”，是互聯(lián)網(wǎng)實(shí)時互動場景的底層架構(gòu)，包括聊天、直播、在線客服等業(yè)務(wù)領(lǐng)域在內(nèi)，所有需要實(shí)時互動、高實(shí)時性的場景，都需要用到IM技術(shù)... 閱讀全文
大模型開發(fā)出來后, 一般要經(jīng)過以下幾個階段的訓(xùn)練:
預(yù)訓(xùn)練(Pre-Trained)
單純提供文本: {"text":"..."}
訓(xùn)練模型由第一個文字開始, 預(yù)測后面的文字, 直到結(jié)束.
這種模型只會做完成文本的任務(wù)
監(jiān)督微調(diào)(Supervised Fine Turning)
為了使模型能完成根據(jù)指令完成回答, 而不是隨機(jī)生成回答
提供的文本: {"instruction":"...", "output":"..."}
高效參數(shù)微調(diào)(Parameter Efficient Fine Turning)
只調(diào)整部分參數(shù), 具體實(shí)現(xiàn)方法有LoRA
參考:
摘要: 本文由vivo互聯(lián)網(wǎng)服務(wù)器團(tuán)隊(duì)Cai Linfeng分享，來自公眾號“ vivo互聯(lián)網(wǎng)技術(shù)”，原題“百萬級群聊的設(shè)計(jì)實(shí)踐”，下文進(jìn)行了排版優(yōu)化和內(nèi)容修訂。1、引言現(xiàn)在IM群聊產(chǎn)品多種多樣，有國民級的微信、QQ，企業(yè)級的釘釘、飛書，還有許多公司內(nèi)部的IM工具，這些都是以客戶端為主要載體。而且群聊人數(shù)通常都是有限制，微信正常群人數(shù)上限是500，QQ200... 閱讀全文
摘要: 大模型微調(diào)后的評估指標(biāo)是衡量模型性能的關(guān)鍵，通常根據(jù)任務(wù)類型和具體需求選擇不同的評估指標(biāo)。以下是一些常見的評估指標(biāo)及其適用場景：
1. 分類任務(wù)
準(zhǔn)確率（Accuracy）：預(yù)測正確的樣本占總樣本的比例。
適用場景：類別分布均衡的任務(wù)。
精確率（Precision）：預(yù)測為正類的樣本中，實(shí)際為... 閱讀全文
摘要: 本文由B端技術(shù)中心資深開發(fā)工程師馬家憶分享，原題“B站在實(shí)時音視頻技術(shù)領(lǐng)域的探索與實(shí)踐”，下文進(jìn)行了排版和內(nèi)容優(yōu)化。1、引言直播行業(yè)從傳統(tǒng)的娛樂直播發(fā)展到教育直播、電商直播等形式，產(chǎn)生了很多新的玩法。傳統(tǒng)的直播是一位主播展示才藝，觀眾通過彈幕、送禮物等方式進(jìn)行互動。隨著網(wǎng)絡(luò)質(zhì)量不斷地提高，用戶也對直播平臺產(chǎn)生的新的要求，實(shí)時互動直播的場景就出現(xiàn)了，觀眾可以同時觀看多位主播之... 閱讀全文
摘要: 本文引用自公眾號“計(jì)算科學(xué)與信息化”，原題“運(yùn)維必知的20個網(wǎng)絡(luò)安全知識點(diǎn)!”，下文進(jìn)行了排版和內(nèi)容優(yōu)化。1、引言即時通訊IM應(yīng)用開發(fā)的初學(xué)者很容易迷失在網(wǎng)絡(luò)編程的復(fù)雜性以及通信安全的各種概念里，本文不涉及深度理論知識，盡量通過一句話或幾句話讓你快速了解20個相關(guān)的網(wǎng)絡(luò)編程和通信安全知識點(diǎn)，希望能助你愉快地開始即時通訊應(yīng)用開發(fā)。技術(shù)交流：- 移動端I... 閱讀全文
摘要: 1、前言本文深入分析了即時通信(IM)系統(tǒng)中所面臨的各種安全問題，綜合利用對稱加密算法（DES算法）、公開密鑰算法（RSA算法）和Hash算法(MD5)的優(yōu)點(diǎn)，探討組合加密算法在即時通信中的應(yīng)用。技術(shù)交流：- 移動端IM開發(fā)入門文章：《新手入門一篇就夠：從零開發(fā)移動端IM》- 開源IM框架源碼：https://github.com/JackJiang2011/MobileIMSDK（備用地址點(diǎn)此... 閱讀全文
摘要: 本文由美團(tuán)安全研究員喬丹分享，作者碩士畢業(yè)于復(fù)旦大學(xué)，目前在美團(tuán)致力于云原生安全建設(shè)。原題“淺談硬編碼密碼及其掃描工具”，下文進(jìn)行了排版和內(nèi)容優(yōu)化。1、引言密碼是對服務(wù)、系統(tǒng)和數(shù)據(jù)的訪問權(quán)限進(jìn)行授權(quán)的數(shù)字身份憑證，常見的密碼有API密鑰、非對稱私鑰、訪問Token等。硬編碼密碼（Hardcoded Secret），或稱嵌入式密碼（Embedded Secret），是指將密碼... 閱讀全文
摘要: 本文由轉(zhuǎn)轉(zhuǎn) 梁會彬、杜云杰分享，原題“轉(zhuǎn)轉(zhuǎn)IM的實(shí)踐與思考”，下文進(jìn)行了排版和內(nèi)容優(yōu)化。1、引言接上篇《整體架構(gòu)設(shè)計(jì)》，筆者將以轉(zhuǎn)轉(zhuǎn)IM架構(gòu)為起點(diǎn)，介紹IM相關(guān)組件以及組件間的關(guān)系；以IM登陸和發(fā)消息的數(shù)據(jù)流轉(zhuǎn)為跑道，介紹IM靜態(tài)數(shù)據(jù)結(jié)構(gòu)、登陸和發(fā)消息時的動態(tài)數(shù)據(jù)變化；以IM常見問題為風(fēng)景，介紹保證IM實(shí)時性、可靠性、一致性的一般方案；以高可用、高并發(fā)為終點(diǎn)，介紹保證IM系... 閱讀全文
摘要: 本文引用了“薔薇Nina”的“Nginx 相關(guān)介紹(Nginx是什么?能干嘛?)”一文部分內(nèi)容，下文有修訂和改動。1、引言Nginx（及其衍生產(chǎn)品）是目前被大量使用的服務(wù)端反向代理和負(fù)載均衡方案，從某種意義上來講，Nginx幾乎是低成本、高負(fù)載Web服務(wù)端代名詞。如此深入人心的Nginx，很多人也想當(dāng)然的認(rèn)為，在IM或消息推送等場景下是否也能使用Ng... 閱讀全文
摘要: 1、前言一個孤獨(dú)的小人，面對巨大的地球站在那里，這就是微信的啟動畫面，許多人對此非常熟悉。而知道畫面里是非洲，就不是那么容易了。這是因?yàn)閳D片里的地球?yàn)樵茍F(tuán)籠罩，只露出一部分地貌特征，需要對世界地圖比較熟悉的有心人才能發(fā)現(xiàn)這一點(diǎn)。 技術(shù)交流：- 移動端IM開發(fā)入門文章：《新手入門一篇就夠：從零開發(fā)移動端IM》- 開源IM框架源碼：https://github.com/JackJ... 閱讀全文
摘要: DeepSeek大模型由于采用了GRPO算法, 大幅降低了顯存的需求.
【DeepSeek】復(fù)現(xiàn)DeepSeek R1？快來看這個Open R1項(xiàng)目實(shí)踐指南~
https://blog.csdn.net/qq_38961840/article/details/145388142
!!!實(shí)戰(zhàn)LLM強(qiáng)化學(xué)習(xí)——使用GRPO（DeepSeek R1出圈算... 閱讀全文
摘要: 本文為CSDN的《程序員》雜志原創(chuàng)文章，下文有修訂和改動”。1、引言南方企業(yè)一直有過年找老板“逗利是”的習(xí)俗，每年春節(jié)后開工的第一天，騰訊大廈都會排上長長的隊(duì)伍，集體上樓找老板們領(lǐng)紅包。按照廣東習(xí)俗，已經(jīng)結(jié)婚的同事也要給未婚同事發(fā)紅包，這一天騰訊員工就在春茗和尋找紅包中度過。由此孵化了一個內(nèi)部項(xiàng)目，通過微信來收發(fā)紅包，把這個公司全員娛樂活動與最活躍的IM平臺微信... 閱讀全文
摘要: 本文來自騰訊ISUX設(shè)計(jì)團(tuán)隊(duì)，下文有修訂和改動。1、引言2019年4月16日QQ語音消息新特性突然登上微博熱搜，QQ鐵粉瞬間集結(jié)。是什么讓129萬人為QQ花式彩虹屁？為何微信卻被吃瓜群眾瘋狂艾特？現(xiàn)在，讓我為你揭秘QQ語音消息改版的設(shè)計(jì)旅程。關(guān)于騰訊ISUX團(tuán)隊(duì)：騰訊社交用戶體驗(yàn)設(shè)計(jì)，簡稱ISUX (Internet Social User Experience)，成立于2011年1月11日，是騰... 閱讀全文
摘要: @import url(http://www.tkk7.com/CuteSoft_Client/CuteEditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);
@import url(http://www.tkk7.com/CuteSoft_Client/C... 閱讀全文
摘要: 0. 配置環(huán)境變量
Code highlighting produced by Actipro CodeHighlighter (freeware)
http://www.CodeHighlighter.com/
-->HF_ENDPOINT=https://hf-mirror.com
HF_HOME=/root/autodl-tmp/paul/tools/huggingf... 閱讀全文
摘要: VLLM量化推理
https://llmc-zhcn.readthedocs.io/en/latest/backend/vllm.html#id1
安裝此工具前需安裝兩個包:
Code highlighting produced by Actipro CodeHighlighter (freeware)
http://www.CodeHighlighter.com/... 閱讀全文
摘要: 本文來自微信團(tuán)隊(duì)工程師方樂明的技術(shù)分享，由InfoQ編輯發(fā)布，下文有修訂和改動。一、引言微信紅包業(yè)務(wù)量級的高速發(fā)展，對后臺系統(tǒng)架構(gòu)的可用性要求越來越高。在保障微信紅包業(yè)務(wù)體驗(yàn)的前提下，紅包后臺系統(tǒng)進(jìn)行了一系列高可用方面的優(yōu)化設(shè)計(jì)。本次分享介紹了微信紅包后臺系統(tǒng)的高可用實(shí)踐經(jīng)驗(yàn)，主要包括后臺的 set 化設(shè)計(jì)、異步化設(shè)計(jì)、訂單異地存儲設(shè)計(jì)、存儲層容災(zāi)設(shè)計(jì)與平行擴(kuò)縮容等。聽眾可以了解到微信紅包后臺架構(gòu)... 閱讀全文
摘要: 本文來自微信團(tuán)隊(duì)工程師方樂明的技術(shù)分享，由InfoQ編輯發(fā)布，下文收錄時有修訂和改動。一、引言每年節(jié)假日，微信紅包的收發(fā)數(shù)量都會暴漲，尤以除夕為最。如此大規(guī)模、高峰值的業(yè)務(wù)需要，背后需要怎樣的技術(shù)支撐？百億級別的紅包規(guī)模，如何保證并發(fā)性能與資金安全？本文將為讀者介紹微信百億級別紅包背后的高并發(fā)設(shè)計(jì)實(shí)踐，內(nèi)容包括微信紅包系統(tǒng)的技術(shù)難點(diǎn)、解決高并發(fā)問題通常使用的方案，以及微信紅包系統(tǒng)的所采用高并發(fā)解決... 閱讀全文