Spark.sql and sqlContext.sql



>我已经导入了以下模块。我尝试从sqlCtx.read.format加载数据,我在实例化'org.apache.spark.sql.hive.HiveSessionState:"错误时收到"IllegalArgumentException: u"错误,但是当我使用spark.read.format时它运行良好。当我从注册的临时表/视图中检索数据时,我看到了相同的行为。我可以添加什么额外的内容来使用 sqlCtx.sql而不是 Spark.sql?

import os
import sys
import pandas as pd
import odbc as pyodbc
import os
import sys
import re
from pyspark import SparkContext
from pyspark.sql import SQLContext
from pyspark.sql.types import *
from pyspark.sql import Row
from pyspark.sql.functions import *
%matplotlib inline
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
import pyspark.sql.functions as func
import matplotlib.patches as mpatches
import time as time
from matplotlib.patches import Rectangle
import datetime
from pyspark import SparkContext, SparkConf
from pyspark.sql import SQLContext
conf = SparkConf()
conf.setMaster("local")
conf.setAppName("AppName")
sqlCtx = SQLContext(sc)

我花了两个小时的时间,只是为了意识到我不需要:

sqlCtx = SQLContext(sc)

只是使用SQLContext.read.(...),在我的情况下解决了这个问题。

相关内容

  • 没有找到相关文章