Mi az Amazon Elastic MapReduce mögött meghúzódó adatfeldolgozó motor?
Mi az Amazon Elastic MapReduce mögött meghúzódó adatfeldolgozó motor?

Videó: Mi az Amazon Elastic MapReduce mögött meghúzódó adatfeldolgozó motor?

Videó: Mi az Amazon Elastic MapReduce mögött meghúzódó adatfeldolgozó motor?
Videó: What is Amazon EMR and how can I use it for processing data? 2024, November
Anonim

Amazon EMR az Apache Hadoop-ot használja terjesztettként adatfeldolgozó motor . A Hadoop egy nyílt forráskódú, Java szoftver keretrendszer, amely támogatja adat - nagy fürtökön futó intenzív elosztott alkalmazások nak,-nek árucikk hardver.

Sőt, mi az Amazon Elastic MapReduce?

Amazon Elastic MapReduce ( EMR ) egy Amazon webszolgáltatások ( AWS ) eszköz nagy adatfeldolgozáshoz és elemzéshez. Amazon EMR nagyméretű adatokat dolgoz fel a virtuális szerverek Hadoop-fürtjén keresztül Amazon Elasztikus Számítási felhő ( EC2 ) és amazon Egyszerű tárolási szolgáltatás ( S3 ).

Továbbá az Amazon EMR teljes mértékben felügyelt? Ez egy teljes mértékben kezelt Data Lake szolgáltatás, amely leválasztja az adattárolást a számítási erőforrásokról, és ehelyett méretezhetővé teszi a számítási fürtöket, amelyek igény szerint használhatók, és lehetővé teszi több fürt számára, hogy egyszerre hozzáférjenek ugyanazokhoz az adatkészletekhez.

Az is felmerülhet, hogyan működik az AWS EMR?

Általában az adatok feldolgozásakor Amazon EMR , a bemenet a kiválasztott mögöttes fájlrendszerben fájlokként tárolt adatok, mint pl amazon S3 vagy HDFS. Ezek az adatok a feldolgozási folyamat egyik lépéséről a másikra haladnak át. Az utolsó lépésben a kimeneti adatokat egy megadott helyre írja, például egy amazon S3 vödör.

Mi a különbség az ec2 és az EMR között?

nem úgy mint EMR , EC2 nem kategorizálja a szolga csomópontokat mag- és feladatcsomópontokba. Ez növeli a HDFS-adatok elvesztésének kockázatát, ha egy csomópontot eltávolítanak/elvesznek. EC2 Apache könyvtárakat (s3a) használ az s3-on lévő adatok eléréséhez. Másrészről, EMR AWS saját kódot használ az s3 gyorsabb eléréséhez.

Ajánlott: