Articles of hadoop

Hadoop “Impossible de charger la bibliothèque native-hadoop pour votre plate-forme”

Je suis en train de configurer le hadoop sur un serveur exécutant CentOs . Lorsque start-dfs.sh ou stop-dfs.sh , j’obtiens l’erreur suivante: WARN util.NativeCodeLoader: Impossible de charger la bibliothèque native-hadoop pour votre plate-forme … en utilisant, le cas échéant, les classes Java intégrées J’utilise Hadoop 2.2.0. Faire une recherche en ligne a mis en place […]

J’essaie de construire Apache Hadoop 2.5.0 sur Windows 7 x64, mais je continue à rencontrer une erreur inconnue

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-javadoc-plugin:2.8 .1:jar (module-javadocs) on project hadoop-maven-plugins: MavenReportException: Error while creating archive: [ERROR] Exit code: 1 – C:\hsc\hadoop-maven-plugins\src\main\java\org\apache\hado op\maven\plugin\util\Exec.java:45: error: unknown tag: Ssortingng [ERROR] * @param command List containing command and all arguments [ERROR] ^ [ERROR] C:\hsc\hadoop-maven-plugins\src\main\java\org\apache\hadoop\maven\plugin \util\Exec.java:46: error: unknown tag: Ssortingng [ERROR] * @param output List in/out parameter to receive […]

Eclipse sur Windows et Hadoop sur cluster distant

Quelqu’un peut-il s’il vous plaît expliquer comment configurer un environnement de développement pour Hadoop sur une machine distante. La plupart des didacticiels en ligne semblent être axés sur le mode local ou le mode pseudo-dissortingbué, qui consiste à installer hadoop localement ou via cygwin. Je voudrais éviter cela. Idéalement, je voudrais pousser le code vers […]

Configuration Hadoop typique pour la soumission de travail à distance

Je suis donc encore un peu nouveau sur le hadoop et je suis actuellement en train de mettre en place un petit cluster de test sur Amazonaws. Donc, ma question concerne quelques conseils sur la structuration du cluster, il est donc possible de soumettre des travaux de soumission depuis des machines distantes. Actuellement, j’ai 5 […]

Hadoop 2.5.2 mvn build échouera Windows 7 x64 – comstack-ms-native-dll sur hadoop-common?

Je suis le wiki Hadoop2OnWindows ici , et j’ai lu le fichier BUILDING.txt dans l’arborescence source plusieurs fois. Je pense que j’ai toutes les dépendances identifiées, mais je reçois pourtant une erreur étrange Failed to execute goal (comstack-ms-native-dll) (journal complet ci-dessous). J’ai installé Windows SDK 7.1 Les choses suivantes sont dans mon PATH: Cygwin/bin MSBuild […]

Apache pig sur windows donne “hadoop-config.cmd” n’est pas reconnu comme une commande interne ou externe “erreur lors de l’exécution de” pig -x local “

Si vous êtes bloqué par l’exécution d’Apache Pig sur Windows à cause d’une erreur comme hadoop-2.4.0\bin\hadoop-config.cmd’ is not recognized as an internal or external command, programme exploitable ou fichier de commandes. même si Hadoop fonctionne parfaitement sur Windows

Erreur Mapreduce: Impossible de configurer le répertoire local

Je cours mapreduce wordcount exemple sur hadoop installé sur Windows 8. J’ai eu l’erreur comme ci-dessous. Cela ressemble à un problème d’autorisation de sécurité. Mais je ne suis pas très sûr. J’ai ajouté une propriété au fichier yarn-site.xml en tant que yarn.nodemanager.local-dirs c:\hadoop\tmp-nm Toute idée serait très utile! 15/07/15 11:01:54 INFO client.RMProxy: Connecting to ResourceManager […]

Comment laisser Apache Spark sous Windows accéder à Hadoop sous Linux?

Tout d’abord, je n’ai presque aucune expérience sur Apache Hadoop et Apache Spark. Ce que je veux pour l’instant est comme suit: Hadoop s’exécute sur Hortonworks Sandbox 2.1, qui est installé sur une machine Windows 7. Les programmes Spark shell et Spark s’exécutent sur la machine Windows 7, qui est la même machine que ci-dessus. […]

Construction de Hadoop sous Windows Erreur: Ant BuildException

Essayer de construire Hadoop 2.4.1 sur Windows Server 2012 en utilisant Maven 3.2.2 en exécutant mvn package -Pdist,native-win -DskipTests -Dtar Vous obtenez actuellement l’erreur suivante: [ERROR] Failed to execute goal org.apache.maven.plugins:maven-antrun-plugin:1.7: run (pre-dist) on project hadoop-project-dist: An Ant BuildException has occured : Execute failed: java.io.IOException: Cannot run program “sh” (in directory “C: \Hadoop\hadoop-2.4.1-src\hadoop-project-dist\target”): CreateProcess error=2, […]

Difficulté à construire un cochon en utilisant Ant

Je suis un novice porcin et j’ai essayé de le faire fonctionner sur ma machine Windows 7. Mon hadoop (2.4.0) fonctionne bien sur mon ordinateur local, mais chaque fois que j’essaie d’exécuter un simple script Pig, il génère des erreurs chaque fois que j’essaie de vider le contenu d’un fichier. En sortant d’une solution pour […]