coolfiry

在這篇文章中將我們一起來探討當(dāng)前的API網(wǎng)關(guān)的作用。 

一、API網(wǎng)關(guān)的用處

API網(wǎng)關(guān)我的分析中會用到以下三種場景。 

1. Open API。 企業(yè)需要將自身數(shù)據(jù)、能力等作為開發(fā)平臺向外開放，通常會以rest的方式向外提供，最好的例子就是淘寶開放平臺、騰訊公司的QQ開放平臺、微信開放平臺。 Open API開放平臺必然涉及到客戶應(yīng)用的接入、API權(quán)限的管理、調(diào)用次數(shù)管理等，必然會有一個(gè)統(tǒng)一的入口進(jìn)行管理，這正是API網(wǎng)關(guān)可以發(fā)揮作用的時(shí)候。
2. 微服務(wù)網(wǎng)關(guān)。微服務(wù)的概念最早在2012年提出，在Martin Fowler的大力推廣下，微服務(wù)在2014年后得到了大力發(fā)展。 在微服務(wù)架構(gòu)中，有一個(gè)組件可以說是必不可少的，那就是微服務(wù)網(wǎng)關(guān)，微服務(wù)網(wǎng)關(guān)處理了負(fù)載均衡，緩存，路由，訪問控制，服務(wù)代理，監(jiān)控，日志等。API網(wǎng)關(guān)在微服務(wù)架構(gòu)中正是以微服務(wù)網(wǎng)關(guān)的身份存在。 
3. API服務(wù)管理平臺。上述的微服務(wù)架構(gòu)對企業(yè)來說有可能實(shí)施上是困難的，企業(yè)有很多遺留系統(tǒng)，要全部抽取為微服務(wù)器改動(dòng)太大，對企業(yè)來說成本太高。但是由于不同系統(tǒng)間存在大量的API服務(wù)互相調(diào)用，因此需要對系統(tǒng)間服務(wù)調(diào)用進(jìn)行管理，清晰地看到各系統(tǒng)調(diào)用關(guān)系，對系統(tǒng)間調(diào)用進(jìn)行監(jiān)控等。 API網(wǎng)關(guān)可以解決這些問題，我們可以認(rèn)為如果沒有大規(guī)模的實(shí)施微服務(wù)架構(gòu)，那么對企業(yè)來說微服務(wù)網(wǎng)關(guān)就是企業(yè)的API服務(wù)管理平臺。

二、API網(wǎng)關(guān)在企業(yè)整體架構(gòu)中的地位

一個(gè)企業(yè)隨著信息系統(tǒng)復(fù)雜度的提高，必然出現(xiàn)外部合作伙伴應(yīng)用、企業(yè)自身的公網(wǎng)應(yīng)用、企業(yè)內(nèi)網(wǎng)應(yīng)用等，在架構(gòu)上應(yīng)該將這三種應(yīng)用區(qū)別開，三種應(yīng)用的安排級別、訪問方式也不一樣。 因此在我的設(shè)計(jì)中將這三種應(yīng)用分別用不同的網(wǎng)關(guān)進(jìn)行API管理，分別是：API網(wǎng)關(guān)（OpenAPI合伙伙伴應(yīng)用）、API網(wǎng)關(guān)（內(nèi)部應(yīng)用）、API網(wǎng)關(guān)（內(nèi)部公網(wǎng)應(yīng)用）。

三、企業(yè)中在如何應(yīng)用API網(wǎng)關(guān)

1、對于OpenAPI使用的API網(wǎng)關(guān)來說，一般合作伙伴要以應(yīng)用的形式接入到OpenAPI平臺，合作伙伴需要到 OpenAPI平臺申請應(yīng)用。 因此在OpenAPI網(wǎng)關(guān)之外，需要有一個(gè)面向合作伙伴的使用的平臺用于合作伙伴，這就要求OpenAPI網(wǎng)關(guān)需要提供API給這個(gè)用戶平臺進(jìn)行訪問。 如下架構(gòu):

當(dāng)然如果是在簡單的場景下，可能并不需要提供一個(gè)面向合作伙伴的門戶，只需要由公司的運(yùn)營人員直接添加合作伙伴應(yīng)用id/密鑰等，這種情況下也就不需要合作伙伴門戶子系統(tǒng)。 

2、對于內(nèi)網(wǎng)的API網(wǎng)關(guān)，在起到的作用上來說可以認(rèn)為是微服務(wù)網(wǎng)關(guān)，也可以認(rèn)為是內(nèi)網(wǎng)的API服務(wù)治理平臺。 當(dāng)企業(yè)將所有的應(yīng)用使用微服務(wù)的架構(gòu)管理起來，那么API網(wǎng)關(guān)就起到了微服務(wù)網(wǎng)關(guān)的作用。 而當(dāng)企業(yè)只是將系統(tǒng)與系統(tǒng)之間的調(diào)用使用rest api的方式進(jìn)行訪問時(shí)使用API網(wǎng)關(guān)對調(diào)用進(jìn)行管理，那么API網(wǎng)關(guān)起到的就是API服務(wù)治理的作用。 架構(gòu)參考如下：

3、對于公司內(nèi)部公網(wǎng)應(yīng)用（如APP、公司的網(wǎng)站），如果管理上比較細(xì)致，在架構(gòu)上是可能由獨(dú)立的API網(wǎng)關(guān)來處理這部分內(nèi)部公網(wǎng)應(yīng)用，如果想比較簡單的處理，也可以是使用面向合作伙伴的API網(wǎng)關(guān)。 如果使用獨(dú)立的API網(wǎng)關(guān)，有以下的好處：

• 面向合作伙伴和面向公司主體業(yè)務(wù)的優(yōu)先級不一樣，不同的API網(wǎng)關(guān)可以做到業(yè)務(wù)影響的隔離。
• 內(nèi)部API使用的管理流程和面向合作伙伴的管理流程可能不一樣。
• 內(nèi)部的API在功能擴(kuò)展等方面的需求一般會大于OpenAPI對于功能的要求。

基于以上的分析，如果公司有能力，那么還是建議分開使用合作伙伴OPEN API網(wǎng)關(guān)和內(nèi)部公網(wǎng)應(yīng)用網(wǎng)關(guān)。

四、API網(wǎng)關(guān)有哪些競爭方案

1、對于Open API平臺的API網(wǎng)關(guān)，我分析只能選擇API網(wǎng)關(guān)作為解決方案，業(yè)界沒有發(fā)現(xiàn)比較好的可以用來作為Open API平臺的入口的其他方案。 

2、對于作為微服務(wù)網(wǎng)關(guān)的API網(wǎng)關(guān)，業(yè)界的選擇可以選擇的解決方案比較多，也取決于微服務(wù)器的實(shí)現(xiàn)方案，有一些微服務(wù)架構(gòu)的實(shí)現(xiàn)方案是不需要微服務(wù)網(wǎng)關(guān)的。

• Service Mesh，這是新興的基于無API網(wǎng)關(guān)的架構(gòu)，通過在客戶端上的代理完成屏蔽網(wǎng)絡(luò)層的訪問，這樣達(dá)到對應(yīng)用層最小的改動(dòng)，當(dāng)前Service Mesh的產(chǎn)品還正在開發(fā)中，并沒有非常成熟可直接應(yīng)用的產(chǎn)品。 發(fā)展最迅速的產(chǎn)品是Istio。 建議大家密切關(guān)注相關(guān)產(chǎn)品的研發(fā)、業(yè)務(wù)使用進(jìn)展。

• 基于duboo架構(gòu)，在這個(gè)架構(gòu)中通常是不需要網(wǎng)關(guān)的，是由客戶端直接訪問服務(wù)提供方，由注冊中心向客戶端返回服務(wù)方的地址。

五、API網(wǎng)關(guān)解決方案

私有云開源解決方案如下：

• Kong kong是基于Nginx+Lua進(jìn)行二次開發(fā)的方案， https://konghq.com/
• Netflix Zuul，zuul是spring cloud的一個(gè)推薦組件，https://github.com/Netflix/zuul
• orange,這個(gè)開源程序是國人開發(fā)的， http://orange.sumory.com/

公有云解決方案：

• Amazon API Gateway，https://aws.amazon.com/cn/api-gateway/
• 阿里云API網(wǎng)關(guān)，https://www.aliyun.com/product/apigateway/
• 騰訊云API網(wǎng)關(guān)， https://cloud.tencent.com/product/apigateway

自開發(fā)解決方案：

• 基于Nginx+Lua+ OpenResty的方案，可以看到Kong,orange都是基于這個(gè)方案
• 基于Netty、非阻塞IO模型。 通過網(wǎng)上搜索可以看到國內(nèi)的宜人貸等一些公司是基于這種方案，是一種成熟的方案。
• 基于Node.js的方案。 這種方案是應(yīng)用了Node.js天生的非阻塞的特性。
• 基于java Servlet的方案。 zuul基于的就是這種方案，這種方案的效率不高，這也是zuul總是被詬病的原因。

六、企業(yè)怎么選擇API網(wǎng)關(guān)

如果是要選擇一款已有的API網(wǎng)關(guān)，那么需要從以下幾個(gè)方面去考慮。 

1、性能與可用性
如果一旦采用了API網(wǎng)關(guān)，那么API網(wǎng)關(guān)就會作為企業(yè)應(yīng)用核心，因此性能和可用性是必須要求的。

• 從性能上來說，需要讓網(wǎng)關(guān)增加的時(shí)間消耗越短越好，個(gè)人覺得需要10ms以下。 系統(tǒng)需要采用非阻塞的IO，如epoll，NIO等。網(wǎng)關(guān)和各種依賴的交互也需要是非阻塞的，這樣才能保證整體系統(tǒng)的高可用性，如：Node.js的響應(yīng)式編程和基于java體現(xiàn)的RxJava和Future。
• 網(wǎng)關(guān)必須支持集群部署，任務(wù)一臺服務(wù)器的crash都應(yīng)該不影響整體系統(tǒng)的可用性。
• 多套網(wǎng)關(guān)應(yīng)該支持同一管理平臺和同一監(jiān)控中心。 如： 一個(gè)企業(yè)的OpenAPI網(wǎng)關(guān)和內(nèi)部應(yīng)用的多個(gè)系統(tǒng)群的不同的微服務(wù)網(wǎng)關(guān)可以在同一監(jiān)控中心進(jìn)行監(jiān)控。

2、可擴(kuò)展性、可維護(hù)性
一款產(chǎn)品總有不能滿足生產(chǎn)需求的地方，因此需求思考產(chǎn)品在如何進(jìn)行二次開發(fā)和維護(hù)，是否方便公司團(tuán)隊(duì)接手維護(hù)產(chǎn)品。 
3、需求匹配度
需要評估各API網(wǎng)關(guān)在需求上是否能滿足，如： 如果是OpenAPI平臺需要使用API網(wǎng)關(guān)，那么需要看API網(wǎng)關(guān)在合作伙伴應(yīng)用接入、合作伙伴門戶集成、訪問次數(shù)限額等OpenAPI核心需求上去思考產(chǎn)品是否能滿足要求。 如果是微服務(wù)網(wǎng)關(guān)，那么要從微服務(wù)的運(yùn)維、監(jiān)控、管理等方面去思考產(chǎn)品是否足夠強(qiáng)大。
4、是否開源？公司是否有自開發(fā)的能力？
現(xiàn)有的開源產(chǎn)品如kong，zuul，orange都有基礎(chǔ)的API網(wǎng)關(guān)的核心功能，這些開源產(chǎn)品大多離很好的使用有一定的距離，如：沒有提供管理功能的UI界面、監(jiān)控功能弱小，不支持OpenAPI平臺，沒有公司運(yùn)營與運(yùn)維的功能等。 當(dāng)然開源產(chǎn)品能獲取源代碼，如果公司有比較強(qiáng)的研發(fā)能力，能hold住這些開源產(chǎn)品，經(jīng)過二次開發(fā)kong、zuul應(yīng)該還是適應(yīng)一些公司，不過需求注意以下一些點(diǎn)：

• kong是基于ngnix+lua的，從公司的角度比較難于找到能去維護(hù)這種架構(gòu)產(chǎn)品的人。 需求評估當(dāng)前公司是否有這個(gè)能力去維護(hù)這個(gè)產(chǎn)品。
• zuul因?yàn)榧軜?gòu)的原因在高并發(fā)的情況下性能不高，同時(shí)需要去基于研究整合開源的適配zuul的監(jiān)控和管理系統(tǒng)。
• orange由于沒有被大量使用，同時(shí)是國內(nèi)個(gè)人在開源，在可持續(xù)性和社區(qū)資源上不夠豐富，出了問題后可能不容易找到人問。

另外kong提供企業(yè)版本的API網(wǎng)關(guān)，當(dāng)然也是基于ngnix+lua的，企業(yè)版本可以購買他們的技術(shù)支持、培訓(xùn)等服務(wù)、以及擁有界面的管理、監(jiān)控等功能。

5、公有云還是私有云
現(xiàn)在的亞馬遜、阿里、騰訊云都在提供基礎(chǔ)公有云的API網(wǎng)關(guān)，當(dāng)然這些網(wǎng)關(guān)的基礎(chǔ)功能肯定是沒有問題，但是二次開發(fā)，擴(kuò)展功能、監(jiān)控功能可能就不能滿足部分用戶的定制需求了。另外很多企業(yè)因?yàn)樽陨硇畔踩脑颍荒苁褂猛饩W(wǎng)公有網(wǎng)的API網(wǎng)關(guān)服務(wù)，這樣就只有選擇私有云的方案了。 
在需求上如果基于公有云的API網(wǎng)關(guān)只能做到由內(nèi)部人員為外網(wǎng)人員申請應(yīng)用，無法做到定制的合作伙伴門戶，這也不適合于部分企業(yè)的需求。 
如果作為微服務(wù)網(wǎng)關(guān)，大多數(shù)情況下是希望網(wǎng)關(guān)服務(wù)器和服務(wù)提供方服務(wù)器是要在內(nèi)網(wǎng)的，在這里情況下也只有私有云的API網(wǎng)關(guān)才能滿足需求。 

綜合上面的分析，基礎(chǔ)公有云的API網(wǎng)關(guān)只有滿足一部分簡單客戶的需求，對于很多企業(yè)來說私有云的API網(wǎng)關(guān)才是正確的選擇。

文章作者介紹：
來自于小豹科技的架構(gòu)師-專注于軟件研發(fā)基于平臺性軟件的研發(fā)，目前我正在研發(fā)一款基于Netty、響應(yīng)式架構(gòu)的插件式的API網(wǎng)關(guān)，希望能對行業(yè)帶來一些改變。 我希望與對OpenAPI、微服務(wù)、API網(wǎng)關(guān)、Service Mesh等感興趣的朋友多交流。 有興趣的朋友請加我的QQ群244054462。

在Java版發(fā)表這篇文章，似乎有點(diǎn)把矛頭指向Java了。其實(shí)不是，GC是所有新一代語言共有的特征，
Python, Eiffel，C#，Roby等無一例外地都使用了GC機(jī)制。但既然Java中的GC最為著名，所以天塌
下來自然應(yīng)該抗著。

這篇短文源于comp.lang.java.programmer跟comp.lang.c++上發(fā)生的一場大辯論，支持C++和Java
的兩派不同勢力展開了新世紀(jì)第一場沖突，跟貼發(fā)言超過350，兩派都有名角壓陣。C++陣營的擂主是
Pete Becker，ACM會員，Dinkumware Ltd. 的技術(shù)副總監(jiān)。此君精通C++和Java，開發(fā)過兩種語言的
核心類庫，但是卻對C++狂熱之極，而對于Java頗不以為然。平時(shí)談到Java的時(shí)候還好，一旦有人膽
敢用Java來批判C++，立刻忍不住火爆脾氣跳將出來，以堅(jiān)韌不拔的毅力和大無畏精神與對手周旋，
舌戰(zhàn)群儒，哪怕只剩下一個(gè)人也要血戰(zhàn)到底。這等奇人當(dāng)真少見！我真奇怪他整天泡在usenet上，
不用工作么？他的老板P.J. Plauger如此寬宏大量？Java陣營主角是一個(gè)網(wǎng)名Razzi的兄弟，另外有
Sun公司大名鼎鼎的Peter van der Linden助陣，妙語連珠，寸土必爭，加上人多勢眾，一度占據(jù)優(yōu)勢。
C++陣營里大拿雖然很多，但是大多數(shù)沒有Pete那么多閑工夫，例如Greg Comeau，Comeau公司老板，
每次來個(gè)只言片語，實(shí)在幫不了Pete多大忙。但是自從C++陣營中冒出一個(gè)無名小子，網(wǎng)名Courage(勇氣)，
發(fā)動(dòng)對Java GC機(jī)制的批判，形勢為之一變。C++陣營眼下處于全攻之勢，Java陣營疲于防守，只能
招架說：“你們沒有證據(jù)，沒有統(tǒng)計(jì)資料”，形勢很被動(dòng)。

垃圾收集(GC)不是一直被Java fans用來炫耀，引以為傲的優(yōu)點(diǎn)么？怎么成了弱點(diǎn)了？我大惑不解，定睛
一看，才覺得此中頗有道理。

首先，Java Swing庫存在大量資源泄漏問題，這一點(diǎn)SUN非常清楚，稱之為bugs，正在極力修正。但是看來
這里的問題恐怕不僅是庫編寫者的疏忽，可能根源在于深層的機(jī)制，未必能夠輕易解決，搞不好要傷筋動(dòng)骨。
不過這個(gè)問題不是那么根本，C++陣營覺得如果抓住對方的弱點(diǎn)攻擊，就算是占了上風(fēng)也沒什么說服力。誰
沒有缺點(diǎn)呢？于是反其道而行之，猛烈攻擊Java陣營覺得最得意的東西，Java的GC機(jī)制本身。

首先來想一想，memory leak到底意味著什么。在C++中，new出來的對象沒有delete，這就導(dǎo)致了memory
leak。但是C++早就有了克服這一問題的辦法——smart pointer。通過使用標(biāo)準(zhǔn)庫里設(shè)計(jì)精致的auto_ptr
以及各種STL容器，還有例如boost庫(差不多是個(gè)準(zhǔn)標(biāo)準(zhǔn)庫了)中的四個(gè)smart pointers，C++程序員只要
花上一個(gè)星期的時(shí)間學(xué)習(xí)最新的資料，就可以拍著胸脯說：“我寫的程序沒有memory leak!”。

相比之下，Java似乎更優(yōu)秀，因?yàn)閺囊婚_始你就不用考慮什么特殊的機(jī)制，大膽地往前new，自有GC替你
收拾殘局。Java的GC實(shí)際上是JVM中的一個(gè)獨(dú)立線程，采用不同的算法策略來收集heap中那些不再有
reference指向的垃圾對象所占用的內(nèi)存。但是，通常情況下，GC線程的優(yōu)先級比較低，只有在當(dāng)前程序
空閑的時(shí)候才會被調(diào)度，收集垃圾。當(dāng)然，如果JVM感到內(nèi)存緊張了，JVM會主動(dòng)調(diào)用GC來收集垃圾，獲取
更多的內(nèi)存。請注意，Java的GC工作的時(shí)機(jī)是：1. 當(dāng)前程序不忙，有空閑時(shí)間。2. 空閑內(nèi)存不足。
現(xiàn)在我們考慮一種常見的情況，程序在緊張運(yùn)行之中，沒喲空閑時(shí)間給GC來運(yùn)行，同時(shí)機(jī)器內(nèi)存很大，
JVM也沒有感到內(nèi)存不足，結(jié)果是什么？對了，GC形同虛設(shè)，得不到調(diào)用。于是，內(nèi)存被不斷吞噬，而那些
早已經(jīng)用不著的垃圾對象仍在在寶貴的內(nèi)存里睡大覺。例如：

class BadGc {

    public void job1() {
        String garbage = "I am a garbage, and just sleeping in your precious memory, " +
                  "how do you think you can deal with me? Daydreaming! HAHA!!!";
        ....
    }

    public void job2() {...}

    ...
    ...

    public void job1000() {...}

    public static void main(String[] args) {
        bgc = new BadGc();
 bgc.job1();
 bgc.job2();
 ...
 bgc.job1000();
    }
}

運(yùn)行中，雖然garbage對象在離開job1()之后，就再也沒有用了。但是因?yàn)?/span>程序忙，內(nèi)存還夠用，所以GC得
不到調(diào)度，garbage始終不會被回收，直到程序運(yùn)行到bgc.job1000()時(shí)還躺在內(nèi)存里嘲笑你。沒轍吧！

好了，我承認(rèn)這段程序很傻。但是你不要以為這只是理論上的假設(shè)，恰恰相反，大多數(shù)實(shí)用中的Java程序都有
類似的效應(yīng)。這就是為什么Java程序狂耗內(nèi)存，而且好像給它多少內(nèi)存吃都不夠。你花上大筆的銀子把內(nèi)存
從128升到256，再升到512，結(jié)果是，一旦執(zhí)行復(fù)雜任務(wù)，內(nèi)存還是被輕易填滿，而且多出來的這些內(nèi)存只是
用來裝垃圾，GC還是不給面子地千呼萬喚不出來。等到你的內(nèi)存終于心力交瘁，GC才姍姍來遲，收拾殘局。而
且GC工作的方式也很不好評價(jià)，一種方法是一旦有機(jī)會回收內(nèi)存，就把所有的垃圾都回收。你可以想象，這要
花很長時(shí)間(幾百M(fèi)的垃圾啊！)，如果你這時(shí)侯正在壓下開炮的按鈕，GC卻叫了暫定，好了，你等死吧！另一
種方法，得到機(jī)會之后，回收一些內(nèi)存，讓JVM感到內(nèi)存不那么緊張時(shí)就收手。結(jié)果呢，內(nèi)存里始終有大批垃
圾，程序始終在半死不活的蕩著。最后，GC可以每隔一段時(shí)間就運(yùn)行一次，每次只回收一部分垃圾，這是現(xiàn)在
大部分JVM的方式，結(jié)果是內(nèi)存也浪費(fèi)了，還動(dòng)不動(dòng)暫停幾百毫秒。難啊！

反過來看看C++利用smart pointer達(dá)成的效果，一旦某對象不再被引用，系統(tǒng)刻不容緩，立刻回收內(nèi)存。這
通常發(fā)生在關(guān)鍵任務(wù)完成后的清理(cleanup)時(shí)期，不會影響關(guān)鍵任務(wù)的實(shí)時(shí)性，同時(shí)，內(nèi)存里所有的對象
都是有用的，絕對沒有垃圾空占內(nèi)存。怎么樣？傳統(tǒng)、樸素的C++是不是更勝一籌？

據(jù)統(tǒng)計(jì)，目前的Java程序運(yùn)行期間占用的內(nèi)存通常為對應(yīng)C++程序的4-20倍。除了其它的原因，上面所說的是一個(gè)
非常主要的因素。我們對memory leak如此憤恨，不就是因?yàn)樗鼘?dǎo)致大量的內(nèi)存垃圾得不到清除嗎？如果有了
GC之后，垃圾比以前還來勢洶洶，那么GC又有什么好處呢？

當(dāng)然，C++的smart pointer現(xiàn)在會使用的人不多，所以現(xiàn)在的C++程序普遍存在更嚴(yán)重的memory leak問題。
但是，如果我奶奶跟舒馬赫比賽車輸?shù)袅耍隳軌蚵裨鼓禽v車子么？
http://www.594k.com/java/html/y2007m1/12051/